Ne bilmek istiyorsun
- OpenAI, ChatGPT’nin insanlar hakkında yanlış bilgi paylaşmasının ardından inceleme altında.
- AB merkezli gizlilik kar amacı gütmeyen kuruluş NOYB, ChatGPT tarafından oluşturulan yanlış bilgileri düzeltemediğinin farkında olduğunu ancak bunu umursamadığını öne sürerek firmaya karşı şikayette bulundu.
- Kuruluş, düzenleyiciden OpenAI’nin operasyonlarını araştırmasını ve onu insanların verilerini nasıl kullandığı hakkında ayrıntılı bilgi sağlamaya zorlamasını istiyor.
OpenAI, AB merkezli gizlilik kar amacı gütmeyen kuruluş NOYB’nin Avusturya Veri Koruma Otoritesi’ne (DPA) ChatGPT’nin “halüsinasyon olaylarını” ve insanlar hakkında yanıltıcı yapay zeka tarafından oluşturulan bilgileri düzeltememesi nedeniyle Avusturya Veri Koruma Otoritesi’ne (DPA) yeni bir şikayette bulunmasının ardından bir kez daha inceleme altına alındı. Kuvars).
Bildiğiniz gibi chatbot halüsinasyonu yapay zeka dünyasında yeni bir olgu değil. Microsoft Copilot’un (eski adıyla Bing Chat) lansmanı sırasında bu olayların bazılarına tanık olduk ve bu da kullanıcıların teknolojinin giderek aptallaştığına inanmasına neden oldu.
NOYB’nin şikayeti, ChatGPT gibi araçların insanlardan topladığı kişisel verileri nasıl işlediğini kontrol eden ve düzenleyen AB’nin Genel Veri Koruma Yönetmeliği’ne (GDPR) dayanıyor. Kuruluş, OpenAI’nin ChatGPT aracı kullanılarak oluşturulan yanlış bilgileri düzeltemeyeceğini açıkça kabul ettiğini belirtti.
Ayrıca OpenAI’nin, ChatGPT’nin bilgileri nereden aldığını veya kullanıcılardan toplayıp sakladığı kişisel verileri açıklayamayacağını da belirtti. Garip bir şekilde kuruluş, ChatGPT oluşturucunun bu sorunun farkında olduğunu ancak umursamadığını belirtti.
GDPR, AB’de yerleşik kullanıcıların, araç tarafından kendileri hakkında oluşturulan hatalı bilgilerde değişiklik talep etmelerine olanak tanır. Bu nedenle OpenAI bu hakkı karşılayamıyor ve NOYB’nin şikayetinin temelini oluşturan bu durum onu uyumsuz hale getiriyor.
NOYB’nin veri koruma avukatı Maartje de Graaf’a göre:
“Erişim taleplerine uyma zorunluluğu tüm şirketler için geçerlidir. Kullanılan eğitim verilerinin kayıtlarının tutulması, en azından bilgi kaynakları hakkında fikir sahibi olunması açıkça mümkündür. Her ‘yenilik’ ile başka bir şirketler grubu ortaya çıkıyor gibi görünüyor. ürünlerinin yasalara uyması gerekmediğini düşünüyor.”
OpenAI için ilerlemenin makul yolu nedir?
OpenAI’den Sam Altman, telif hakkıyla korunan içerik olmadan ChatGPT gibi araçlar geliştirmenin imkansız olduğunu itiraf etti. Zaten bildiğiniz gibi Microsoft ve OpenAI, telif hakkı ihlali sorunları nedeniyle çeşitli hukuki mücadeleler içindedir.
Telif hakkıyla korunan bilgilere erişim olmadığında, sorgulara yapay zeka tarafından oluşturulan yanıtlar o kadar ayrıntılı ve doğru olmaz. Kuruluş, OpenAI’nin eylemlerinin “kabul edilemez” olduğunu çünkü ChatGPT’yi yönettiğini ancak araç tarafından oluşturulan yanlış bilgileri düzeltemediğini veya verileri nereden aldığını açıklayamayacağını belirtiyor.
NOYB, DPA’nın verileri nasıl işlediği ve modellerini nasıl eğittiği de dahil olmak üzere OpenAI’nin operasyonlarını araştırmasını istiyor. Ek olarak kuruluş, DPA’nın OpenAI’yi kullanıcıların verilere erişmesine izin vermeye zorlamasını, böylece şirketin kullanıcılardan topladığı kişisel verilerin ve daha fazlasının net bir resmini çizmesini istiyor.
OpenAI bu talepleri karşılayamazsa 20 milyon euro veya küresel yıllık cironun %4’ü kadar ağır bir ücretle cezalandırılabilir. Etkilenen kullanıcıların zararları için tazminat istemeyi seçmeleri durumunda herhangi bir ek maliyeti unutmamak gerekir.
