OpenAI’den Sam Altman ve ChatGPT, FTC tarafından gerçek insanlar hakkında yanlış ve zararlı ifadeler nedeniyle soruşturuluyor. AI halüsinasyonları, hükümetler kadar OpenAI için de büyük bir endişe kaynağı olmuştur. tüm dünyada, bu yüzden düzenlenmesi önemlidir
ABD düzenleyicileri, bir yapay zeka şirketi olan OpenAI’yi, yanlış bilgi üreten bir AI sistemi olan ChatGPT’nin tüketiciler için oluşturduğu potansiyel risklerle ilgili olarak araştırıyorlar.
Federal Ticaret Komisyonu (FTC), OpenAI’ye yazdığı bir mektupta, şirketin bireylerin karşı karşıya kaldığı itibar risklerini nasıl ele aldığı hakkında bilgi istedi. Bu sorgulama, bu teknolojiyi çevreleyen artan düzenleyici incelemeyi yansıtıyor.
Sam Altman’ın başı dertte mi?
OpenAI CEO’su Sam Altman, şirketin FTC ile işbirliği yapacağını belirtti. ChatGPT, bir bağlantı listesi oluşturan geleneksel internet aramalarının aksine, saniyeler içinde insan benzeri yanıtlar üretir. Bu ve benzeri AI ürünlerinin, insanların çevrimiçi bilgilere erişme şeklini önemli ölçüde değiştirmesi bekleniyor.
İlgili Makaleler
Meta, OpenAI Başı Belada: ABD’li Komedyen, TV Yazarları ve çeşitli yazarlar, AI bot üreticilerine içerik hırsızlığı nedeniyle dava açtı
Frankenstein’ın AI’sı: ChatGPT yaratıcısı, süper zeki AI botlarını insan kontrolü altında tutmak için bir ekip oluşturacak
Rakip teknoloji şirketlerinin bu teknolojinin kendi versiyonlarını geliştirmek için acele etmesi, eğitim sürecinde veri kullanımı, yanıt doğruluğu ve potansiyel yazar haklarının ihlali gibi konularda yoğun tartışmalara yol açtı.
Altman, OpenAI’nin güvenlik araştırması için yıllarca ve ChatGPT’yi “yayınlamadan önce daha güvenli ve uyumlu” hale getirmek için aylar harcadığını söyledi.
Twitter’da “Kullanıcı gizliliğini koruyoruz ve sistemlerimizi özel bireyleri değil, dünyayı öğrenecek şekilde tasarlıyoruz” dedi.
FTC’nin mektubu, OpenAI tarafından gerçek kişiler hakkında yanlış, yanıltıcı, aşağılayıcı veya zararlı ifadelerin oluşmasına karşı alınan önlemleri sorgulamaktadır. FTC, AI sistemini eğitmek ve bilgilendirmek için veri toplama da dahil olmak üzere OpenAI’nin veri gizliliğine yaklaşımını da inceliyor.
OpenAI’nin hata potansiyeli
Altman, ChatGPT’yi piyasaya sürmeden önce “daha güvenli ve uyumlu” hale getirdiklerini belirterek, OpenAI’nin güvenlik araştırmalarına olan bağlılığını vurguladı. Şirketin, kullanıcı gizliliğini korumaya ve özel bireyler yerine dünya hakkında bilgi edinmek için sistemler tasarlamaya olan bağlılığını ileri sürdü.
Altman daha önce Kongre huzuruna çıkmış ve teknolojinin hata yapma potansiyelini kabul etmişti. Yapay zeka güvenliğini denetlemek için düzenlemeleri ve yeni bir kurumun kurulmasını savundu ve şirketin aksilikleri önlemek için hükümetle işbirliği yapma isteğini ifade etti.
Altman o sırada “Bence bu teknoloji ters giderse, oldukça ters gidebilir … bu konuda sesimizi duyurmak istiyoruz” dedi. Bunun olmasını önlemek için hükümetle birlikte çalışmak istiyoruz” dedi.
AI halüsinasyonları tehlikelidir
Washington Post başlangıçta FTC soruşturmasını bildirdi ve mektubun bir kopyasını sağladı. Başkan Lina Khan liderliğindeki FTC, büyük teknoloji şirketlerini aktif olarak denetliyor ve ajansın yetkisinin kapsamı hakkında tartışmalara yol açıyor.
Khan, “Başka birinden gelen bir soruşturmaya yanıt olarak insanların hassas bilgilerinin ortaya çıktığına dair raporlar duyduk” dedi.
“İftira, karalayıcı ifadeler, ortaya çıkan kesinlikle doğru olmayan şeyler duyduk. Endişelendiğimiz dolandırıcılık ve aldatma türü bu” diye ekledi.
Khan, ChatGPT’nin çıktısıyla ilgili endişelerini dile getirerek, hassas bilgilerin açığa çıkması ve küçük düşürücü veya yanlış ifadelerin ortaya çıkması örneklerini öne sürdü. FTC’nin OpenAI ile ilgili soruşturması henüz başlangıç aşamasında.
OpenAI, İtalya’nın gizlilik endişeleri nedeniyle ChatGPT’yi geçici olarak yasaklaması gibi benzer gerekçelerle önceki zorluklarla karşı karşıya kaldı. Hizmet, OpenAI yaş doğrulama araçlarını uyguladıktan ve gizlilik politikası hakkında daha ayrıntılı bilgi sağladıktan sonra eski durumuna getirildi.