OpenAI devrede Avrupa Birliği’nde inceleme tekrar – bu sefer bitti ChatGPT’nin insanlarla ilgili halüsinasyonları.
Noyb adlı bir gizlilik hakları kar amacı gütmeyen grup, Pazartesi günü Avusturya Veri Koruma Otoritesi’ne (DPA), ChatGPT tarafından insanlar hakkında oluşturulan bilgileri düzeltememesi nedeniyle yapay zeka şirketine karşı bir birey adına şikayette bulundu.
Rağmen halüsinasyonlarveya ChatGPT gibi büyük dil modellerinin (LLM’ler) sahte veya anlamsız bilgiler oluşturma eğilimi yaygındır; Noyb’un şikayeti AB’nin Genel Veri Koruma Yönetmeliğine (GDPR) odaklanıyor. GDPR bloktaki kişilerin kişisel verilerinin nasıl düzenleneceğini düzenler toplanır ve saklanır.
Noyb, GDPR’nin gerekliliklerine rağmen, “OpenAI, ChatGPT’deki yanlış bilgileri düzeltemediğini açıkça kabul ediyor” dedi ve şirketin “verilerin nereden geldiğini veya ChatGPT’nin bireysel kişiler hakkında hangi verileri depoladığını söyleyemediğini” de ekledi. ve “bu sorunun gayet farkında ama umursamıyor gibi görünüyor.”
Noyb şikayetinde, GDPR uyarınca AB’deki bireylerin kendileri hakkındaki yanlış bilgilerin düzeltilmesi hakkına sahip olduğunu, dolayısıyla OpenAI’nin verileri düzeltememesi nedeniyle kurala uymadığını belirtti.
Ev ödevleri için halüsinasyonlar “tolere edilebilir” olsa da Noyb, insanlar hakkında bilgi üretme söz konusu olduğunda bunun “kabul edilemez” olduğunu söyledi. Noyb’un OpenAI’ye karşı açtığı davadaki şikayetçi, ChatGPT’ye doğum gününü soran ancak noyb’a göre “defalarca yanlış bilgi verilen” kamuya açık bir kişidir. Daha sonra OpenAI’nin “verileri düzeltmenin mümkün olmadığını ileri sürerek verileri düzeltme veya silme talebini reddettiği” iddia edildi. Bunun yerine OpenAI’nin şikayetçiye, şikayetçinin adı gibi belirli istemlerdeki verileri filtreleyebileceğini veya engelleyebileceğini söylediği iddia ediliyor.
Grup, DPA’dan OpenAI’nin verileri nasıl işlediğini ve şirketin Yüksek Lisans eğitimlerinde doğru kişisel verileri nasıl sağladığını araştırmasını istiyor. noyb ayrıca DPA’dan OpenAI’ye şikayetçinin verilere erişim talebine uyması talimatını vermesini istiyor. şirketlerin gerektirdiği GDPR uyarınca bireylere ellerinde hangi verilere sahip olduklarını ve bu verilerin kaynaklarının neler olduğunu göstermek.
OpenAI, yorum talebine hemen yanıt vermedi.
Noyb veri koruma avukatı Maartje de Graaf yaptığı açıklamada, “Erişim taleplerine uyma yükümlülüğü tüm şirketler için geçerlidir” dedi. “Kullanılan eğitim verilerinin kayıtlarını tutmak, en azından bilgi kaynakları hakkında fikir sahibi olmak için açıkça mümkün. Görünen o ki, her ‘inovasyon’la başka bir grup şirket, ürünlerinin yasalara uygun olması gerekmediğini düşünüyor.”
GDPR kurallarına uyulmaması, 20 milyon Euro’ya veya küresel yıllık cironun %4’üne varan cezalara yol açabilir – hangisi daha yüksekse – ve bireyler bunları aramayı seçerse daha da fazla zarar. OpenAI halihazırda AB üye ülkelerinde benzer veri koruma vakalarıyla karşı karşıya İtalya Ve Polonya.
Bu makale ilk olarak şu tarihte yayınlandı: Kuvars.
