Gizmodo’nun yapay zekada olup bitenler hakkında derinlemesine bir inceleme yaptığımız haftalık özeti olan AI Bu Hafta’ya hoş geldiniz.
Forbes’ta bu hafta rapor edildi Social Links adlı bir Rus casus yazılım şirketinin duygu analizi yapmak için ChatGPT’yi kullanmaya başladığını söyledi. Polislerin ve casusların, web kullanıcılarının olaylar hakkında ne hissettiğini anlamak için sosyal medya verilerini toplayıp analiz ettiği tüyler ürpertici alan, duygu analizi küçük chatbot’un henüz ortaya çıkmadığı kabataslak kullanım durumlarından biridir.
Daha önce Sosyal Bağlantılar Meta’nın platformlarını başlattı Kullanıcıların gözetlendiği iddiasıyla, bu hafta Paris’te düzenlenen bir güvenlik konferansında ChatGPT’nin alışılmadık kullanımını gösterdi. Şirket, chatbot’un metin özetleme ve büyük miktarda veriyi hızlı bir şekilde sindirmek için analiz etme yeteneğini silahlandırmayı başardı. Bir gösteride şirket, kendi özel aracı tarafından toplanan verileri ChatGPT’ye aktardı; Forbes, İspanya’da yakın zamanda yaşanan bir tartışmayla ilgili çevrimiçi gönderilerle ilgili verilerin daha sonra chatbot tarafından analiz edildiğini ve bunların “olumlu, olumsuz veya tarafsız olarak derecelendirildiğini ve sonuçların etkileşimli bir grafikte görüntülendiğini” yazıyor Forbes.
Açıkçası, gizlilik savunucuları bunu biraz rahatsız edici buldu; yalnızca bu özel durum nedeniyle değil, aynı zamanda yapay zekanın genel olarak gözetleme endüstrisinin güçlerini nasıl artırabileceğine dair söyledikleri nedeniyle.
Electronic Frontier Foundation’ın topluluk örgütlenmesi direktör yardımcısı Rory Mir, yapay zekanın kolluk kuvvetlerinin gözetim çabalarını genişletmesine yardımcı olabileceğini ve daha küçük polis ekiplerinin daha büyük grupları kolaylıkla gözetlemesine olanak sağlayabileceğini söyledi. Zaten polis teşkilatları kendilerini çevrimiçi topluluklara yerleştirmek için sıklıkla sahte profiller kullanıyor; Mir, bu tür gözetimin çevrimiçi konuşma üzerinde caydırıcı bir etkisi olduğunu söyledi. Şöyle ekledi: “ChatGPT gibi şeylerin korkutucu yanı, bu tür operasyonların ölçeğini büyütebilmeleridir.” Yapay zeka, bu gizli operasyonlar sırasında topladıkları veriler üzerinde “polislerin analizi daha hızlı yapmasını kolaylaştırabilir”; bu da “Yapay zeka araçlarının [effectively] çevrimiçi gözetimi mümkün kıldığını ekledi.
Mir ayrıca bu tür yapay zeka kullanımıyla ilgili göze çarpan bir soruna da dikkat çekti: sohbet robotlarının işleri berbat etme ve kötü sonuçlar verme konusunda oldukça kötü bir geçmişi var. Mir, “Yapay zeka, bunun gibi yüksek riskli senaryolarda gerçekten endişe verici” dedi. “ChatGPT’nin makalenizin taslağını okuması ve ona ‘Bu ne kadar kabul edilebilir?’ diye sorabilmeniz bir şeydir. Ancak, diyelim ki birisinin işe girip girmediğini veya konut alıp almadığını belirlemek veya bu durumda birinin polisten aşırı ilgi görüp görmediğini belirlemek alanına girdiğinde, işte o zaman bu önyargılar basit bir şey olmaktan çıkar. hesaba katmak, ancak bu şekilde kullanmamak için bir neden [at all].”
Mir, yapay zeka eğitim verilerinin “kara kutusunun”, algoritmanın tepkisinin güvenilir olup olmayacağından emin olmanın zor olduğu anlamına geldiğini ekledi. “Demek istediğim, bu şeyler Reddit ve 4chan verileriyle eğitiliyor” diye kıkırdadı. “Yani bu temel verilerden kaynaklanan önyargılar, çıktılarının mozaiğinde yeniden ortaya çıkacak.”
Günün sorusu: Sam Altman ne yaptı?
Yakın teknoloji tarihinin en şok edici üzüntülerinden biri olan bu olayla Sam Altman, OpenAI CEO’luğu görevinden alındı. Cuma gününde, Bir deyim ani bir liderlik geçişini duyuran şirket tarafından piyasaya sürüldü. “Bay. Altman’ın ayrılışı, yönetim kurulu tarafından yürütülen müzakereli bir inceleme sürecinin ardından geldi; bu süreçte, Altman’ın yönetim kuruluyla olan iletişiminde tutarlı bir şekilde samimi olmadığı ve bu durumun kurulun sorumluluklarını yerine getirme kabiliyetini engellediği sonucuna varıldı. Yönetim kurulunun artık onun OpenAl’a liderlik etmeye devam etme becerisine güveni yok.” Basın açıklamasında, olayların bu şok edici gelişmesiyle ortaya çıkan acil güç boşluğunda, yönetim kurulunun şirketin baş teknoloji sorumlusu Mira Murati’yi geçici CEO olarak seçtiği belirtiliyor. Şu ana kadar Sam’in kariyerinde böylesine felaket bir düşüşe izin verecek ne yapmış olabileceği tamamen belirsiz. Gün içinde Silikon Vadisi’nin şehrin prensi olmaktan çıkıp paryaya dönüşmek için ciddi şekilde batırmanız gerekir. Burada tam olarak ne olduğunu duymak için sabırsızlıkla bekliyorum.
Bu haftanın diğer başlıkları
- Otomatik sağlık hizmetleri belgelenebilir bir kabusa benziyor. Yeni bir dava şunu iddia ediyor UnitedHealthcare, hastalar söz konusu olduğunda doktorların kararlarını “geçersiz kılmak” için son derece kusurlu bir yapay zeka algoritması kullanıyor ve böylece sigorta devinin yaşlı ve hasta hastaların sigorta kapsamını reddetmesine olanak tanıyor. Minnesota’daki ABD Bölge Mahkemesinde açılan dava, UnitedHealth’in bir yan kuruluşu olan NaviHealth’in, hastaların sigorta kapsamını reddetmek için kullanılmasının yanı sıra, bir kapalı kaynak yapay zeka algoritması olan nH Predict’i kullandığını iddia ediyor. çoğu zaman yanlıştır. Ars Technica’nın sahip olduğu hikayenin tamamı.
- Microsoft, Sam Altman’ın OpenAI’deki ani çıkışı nedeniyle “gafil avlanmış” görünüyor. Yeni bir rapor Axios, Microsoft’un OpenAI’nin en önemli ürünü olduğunu iddia ediyor iş ortağı (ve fon sağlayıcı) baş yöneticisinin aşırı önyargıyla görevden alınması gerçeği nedeniyle “kör olmuştu”. Rapor bundan fazlasını söylemiyor ve sadece “durumu bilen bir kişiden” bahsediyor. Herkesin bu konuda hala kafası karışık olduğunu söylemek yeterli.
- Sonuçta Birleşik Krallık yapay zekayı düzenlemiyor olabilir. Görünen o ki Big Tech’in gölet boyunca uyguladığı cazibe işe yaradı. Son haftalarda yapay zeka sektörünün en büyük rakamlarından bazıları:Elon Musk dahil— bir yapay zeka zirvesine katılmak için Birleşik Krallık’a gitti. Katılan yöneticilerin genel tavrı şuydu: Yapay zeka dünyayı yok edebilir ama lütfen bu konuda şimdilik bir şey yapmayalım. Bu hafta ülkenin Yapay Zeka ve Fikri Mülkiyet Bakanı Jonathan Camrose, basına söyledi “Kısa vadede” ulusun “erken düzenleme” uygulamak istemediğini ve “boğucu yeniliklerden” uzak durmak istediğini söyledi.