Yaklaşık bir yıl önce geçici bir yasağın ardından VPN hizmeti indirmelerinde ani bir artış tetikleyen OpenAI, Avrupa Birliği’nde bir kez daha sorunlarla karşı karşıya kaldı. Bu sefer suçlu mu? ChatGPT’nin halüsinasyon sorunları.
Popüler AI sohbet robotu, bireyler hakkında yanlış bilgiler uydurmakla ünlüdür; uzmanlar, OpenAI’nin kuşkusuz düzeltemediği veya kontrol edemediği bir şey olduğunu söylüyor. Avusturya merkezli dijital haklar grubu Noyb’un (şu şekilde stilize edilmiştir) nedeni budur. noyb“seni ilgilendirmez” ifadesinin kısaltması) şikayette bulundum GDPR kurallarını ihlal ettiği iddiasıyla 29 Nisan 2024’te ülkenin veri koruma yetkilisine başvurdu.
Kuruluş şimdi Avusturya gizlilik koruma kurumunu OpenAI’nin vatandaşların kişisel verilerinin doğruluğunu nasıl doğruladığını araştırmaya çağırıyor. Noyb ayrıca yetkilileri gelecekte GDPR uyumluluğunu sağlamak için para cezası uygulamaya çağırıyor.
ChatGPT’nin yanlış bilgisi: bir GDPR sorunu
ChatGPT ve benzeri yapay zeka sohbet robotlarının muhtemelen bir şeyler uydurmayı asla bırakmayacaklarını zaten tartışmıştık. “Chatbot’ların bilgiyi en az yüzde üç oranında (ve yüzde 27’ye kadar varan oranlarda) icat ettiği” göz önüne alındığında bu oldukça endişe verici. New York Times bildirdi.
Elbette, sahte gerçeklere kanmadan önce kendimizi eğiterek, yapay zeka tarafından üretilen yanlış bilgilerle nasıl başa çıkacağımızı öğrenebiliriz. Ancak uzmanlar artık bu “Yapay Zeka halüsinasyonlarının” aslında mahremiyetimiz açısından da kötü olduğunu savunuyor.
Noyb veri koruma avukatı Maartje de Graaf, “Yanlış bilgi uydurmak başlı başına oldukça sorunlu. Ancak bireyler hakkında yanlış bilgi söz konusu olduğunda ciddi sonuçlar doğabilir” dedi. Daha da kötüsü, ChatGPT’nin hatalı olması fiilen AB yasalarına aykırıdır.
Aslında GDPR’nin 5. Maddesi uyarınca, AB’deki bireylere ilişkin tüm çevrimiçi bilgilerin doğru olması gerekir. Ancak 16. maddeye göre hatalı veya yanlış tüm verilerin düzeltilmesi gerekmektedir. 15. Madde, Avrupalılara “erişim hakkı” veriyor ve şirketlerin bireylere ilişkin hangi verileri ellerinde tuttuklarını ve bunların kaynaklarının neler olduğunu göstermelerini zorunlu kılıyor.
Ancak noyb’un kurucusu Max Schrems, AI lordunun ChatGPT’nin doğru doğum tarihi hatası nedeniyle itaatine itiraz etmeye karar verdiğinde, OpenAI yukarıdakilerin hiçbirini yapamayacağını itiraf etti. Firma, verileri düzeltmek veya silmek yerine bunun yapılabileceğini söyledi. Sadece Belirli istemlerde görünecek bilgileri filtreleyin veya engelleyin. Ancak bu ancak onunla ilgili tüm bilgilerin bir arada filtrelenmesiyle mümkün olabilirdi.
De Graaf’a göre bu, teknoloji firmalarının şu anda AB yasalarına uygun yapay zeka sohbet robotları geliştiremediklerini gösteren açık bir işaret. “Teknolojinin yasal gereklilikleri takip etmesi gerekiyor, tersi değil” dedi. “Görünen o ki, her ‘yenilik’ ile başka bir grup şirket, ürünlerinin yasalara uygun olmasının gerekmediğini düşünüyor.”
🚨 noyb, ChatGPT’nin yaratıcısı OpenAIOpenAI’ye karşı şikayette bulundu OpenAIOpenAI, ChatGPT’deki kişiler hakkındaki yanlış bilgileri düzeltemediğini açıkça kabul ediyor. Şirket, verilerin nereden geldiğini bile söyleyemiyor. Bununla ilgili her şeyi buradan okuyabilirsiniz 👇https://t.co/gvn9CnGKOb29 Nisan 2024
ChatGPT, Kasım 2022’de ilk lansmanının ardından hızla yaygınlaştı. 2023 yılı boyunca yapay zeka sohbet robotu yarışı, en büyük oyuncuların kendi yinelemelerini geliştirmesiyle teknoloji dünyasına hakim oldu. Öğrencilerden doktorlara, avukatlardan sanatçılara ve hatta siber saldırganlara kadar herkes OpenAI’nin ürünlerini veya benzer uygulamalarını kullanıyor gibi görünüyor.
Tüm teknolojik yeniliklerde olduğu gibi halk, yapay zekanın potansiyeli konusunda heyecan duyanlar ile onun gücünden endişe duyanlar arasında bölünmüş durumda. Bazı uzmanlar ChatGPT’nin de nihai gizlilik kabusu olup olmadığını merak ediyor.
Bu endişeler sonunda Avrupa’da OpenAI için gerçek hayattaki sorunlara dönüştü. Sorunlar, Mart 2023’te İtalya’nın, İtalyanların verilerini uygunsuz bir şekilde toplayıp depolaması nedeniyle ChatGPT’yi geçici olarak engellemesiyle başladı. Bunun ardından Fransa, Almanya ve İrlanda’nın da aralarında bulunduğu diğer AB ülkeleri konuyu araştırmaya başladı. A ChatGPT görev gücü ulusal çabaları koordine etme fikri o zaman doğdu. Ancak noyb’deki uzmanlar, yetkililerin çabalarının şu ana kadar büyük ölçüde sonuçsuz kaldığını düşünüyor.
Grup, “Şimdilik OpenAI, AB’nin GDPR’sine uyabilecekmiş gibi bile görünmüyor” diyor.
Bu nedenle Noyb meseleyi kendi eline almaya karar verdi. Grup, Avusturya veri koruma yetkilisinden (DSB), OpenAI’nin, işlenmesini GDPR’ye uygun hale getirmek için insanların verilerini nasıl işlediğini araştırmasını istiyor.
