Openai, viral AI chatbot’un yanlış bilgileri halüsinasyon eğilimi konusunda Avrupa’da başka bir gizlilik şikayetiyle karşı karşıya – ve bu düzenleyicilerin görmezden gelmesi zor olabilir.
Gizlilik Hakları Savunuculuk Grubu Noyb Norveç’te Chatgpt’in iki çocuğunu öldürdüğü ve üçüncüsü öldürmeye çalıştığı için mahkum edildiğini iddia eden telafi eden bilgileri bulmak için dehşete düşen bir bireyi destekliyor.
ChatGPT ile ilgili daha önceki gizlilik şikayetleri yanlış kişisel veriler üretiyor. Bir endişe, Openai’nin bireylerin AI’nın kendileri hakkında ürettiği yanlış bilgileri düzeltmeleri için bir yol sunmamasıdır. Tipik olarak Openai bu tür istemler için yanıtları engellemeyi teklif etti. Ancak Avrupa Birliği’nin Genel Veri Koruma Yönetmeliği (GDPR) uyarınca Avrupalılar, kişisel verilerin düzeltme hakkını içeren bir veri erişim haklarına sahiptir.
Bu veri koruma yasasının bir başka bileşeni, veri denetleyicilerinin bireyler hakkında ürettikleri kişisel verilerin doğru olduğundan emin olmasını gerektirir – ve bu NoyB’nin en son ChatGPT şikayetiyle işaretlemesi endişesidir.
“GDPR açık. Kişisel verilerin doğru olması gerekiyor,” dedi NOYB veri koruma avukatı Joakim Söderberg yaptığı açıklamada. “Değilse, kullanıcılar gerçeği yansıtacak şekilde değiştirme hakkına sahiptir. ChatGPT kullanıcılarına, chatbot’un hatalar yapabileceği küçük bir feragatname göstermek yeterli değildir. Sadece yanlış bilgi yayamazsınız ve sonunda söylediğiniz her şeyin doğru olmayabileceğini söyleyen küçük bir feragat ekleyin.”
GDPR’nin onaylanmış ihlalleri, küresel yıllık cironun% 4’üne kadar cezalara yol açabilir.
Uygulama ayrıca AI ürünlerinde değişiklikleri zorlayabilir. Özellikle, İtalya’nın Veri Koruma Gözetlemesi tarafından CHATGPT erişiminin 2023 ilkbaharında ülkede geçici olarak engellendiğini gören erken bir GDPR müdahalesi, Openai’nin kullanıcılara açıkladığı bilgilerde değişiklik yapmasına yol açtı. . Watchdog daha sonra Fine Openai’ye 15 milyon € ‘ya devam etti İnsanların verilerini uygun bir yasal dayanak olmadan işlemek için.
O zamandan beri, Avrupa çevresindeki gizlilik gözlemcilerinin GDPR’yi bu vızıltı AI araçlarına en iyi nasıl uygulayacağını anlamaya çalıştıkları için Genai’ye daha temkinli bir yaklaşım benimsediğini söylemek adil.
İki yıl önce İrlanda’nın Veri Koruma Komisyonu (DPC) – önceki bir NOYB ChatGPT şikayetinde lider GDPR uygulama rolüne sahip – yasaklamak için acele etmeye çağırıldı Örneğin Genai Araçları. Bu, düzenleyicilerin yasanın nasıl uygulandığını çözmek için zaman ayırmaları gerektiğini göstermektedir.
Ve Eylül 2023’ten bu yana Polonya’nın veri koruma gözlemcisi tarafından soruşturma altında olan ChatGPT’ye karşı bir gizlilik şikayetinin hala bir karar vermemesi dikkat çekicidir.
Noyb’un yeni ChatGPT şikayeti, halüsinasyon AIS tehlikeleri söz konusu olduğunda gizlilik düzenleyicilerini uyandırmayı amaçlıyor.
Kâr amacı gütmeyen kuruluş, (aşağıda) ekran görüntüsünü TechCrunch ile paylaştı, bu da AI’nın “Arve Hjalmar Holmen Kimdir?” Diye soran bir soruya yanıt verdiği ChatGPT ile bir etkileşim gösterdi. – Şikayeti getiren bireyin adı – yanlış bir şekilde çocuk cinayeti için hüküm giydiğini ve kendi oğlunu öldürdüğü için 21 yıl hapse mahk wasm edildi.
Hjalmar Holmen’in bir çocuk katili olduğu hakaret iddiası tamamen yanlış olsa da, Noyb, Söz konusu bireyin üç çocuğu olduğu için Chatgpt’in yanıtının bazı gerçekleri içerdiğini belirtiyor. Chatbot ayrıca çocuklarının cinsiyetlerini de doğru aldı. Ve memleketi doğru bir şekilde adlandırıldı. Ancak bu, AI’nın bu kadar korkunç yanlışlıkları üstte halüsinasyon etmesi daha tuhaf ve rahatsız edici hale getiriyor.
NOYB sözcüsü, chatbot’un neden bu birey için bu kadar özel ama yanlış bir tarih ürettiğini belirleyemediklerini söyledi. “Bunun sadece başka biriyle bir karışım olmadığından emin olmak için araştırma yaptık,” diyen sözcü, gazete arşivlerine baktıklarını ancak AI’nın neden çocuğun öldürüldüğüne dair bir açıklama bulamadıklarını belirtti.
Altta yatan Chatgpt gibi büyük dil modelleri, esasen geniş bir ölçekte bir sonraki kelime tahmini yapar, bu nedenle aracı eğitmek için kullanılan veri kümelerinin, adlandırılmış bir adam hakkında bir sorguya yanıt olarak kelime seçimlerini etkileyen birçok Filisit hikayesi içerdiğini tahmin edebiliriz.
Açıklama ne olursa olsun, bu tür çıktıların tamamen kabul edilemez olduğu açıktır.
Noyb’un tartışması, AB veri koruma kuralları uyarınca yasadışı olduklarıdır. Openai, ekranın altında “ChatGPT hataları yapabilir. Önemli bilgileri kontrol edin” diyen küçük bir feragat sergilerken, bunun AI geliştiricisini GDPR kapsamındaki görevini ortadan kaldıramayacağını söylüyor.
Şikayete yanıt için Openai ile temasa geçildi.
Bu GDPR şikayeti, adlandırılan bir kişiyle ilgili olsa da, NOYB, yasal olarak uzlaşan bilgileri üreten Chatgpt’in diğer örneklerine işaret ediyor – rüşvet ve yolsuzluk skandalıyla ilgilidir veya Yanlış bir şekilde çocuk istismarı olarak adlandırılan bir Alman gazeteci – Bunun AI aracı için izole bir sorun olmadığını söylemek açık.
Dikkat edilmesi gereken önemli bir şey, CHATGPT’yi güçlendiren altta yatan AI modelinin bir güncellemesini takiben Noyb, chatbot’un Hjalmar Holmen hakkındaki tehlikeli yanlışlıkları üretmeyi bıraktığını söylüyor – şimdi internete bağlandığı bir değişiklik, kim oldukları sorulduğunda internete bağlandığı bir değişiklik (daha önce, veri setinde bir boşluk, olağanüstü bir şekilde cevap verebilir).
Kendi testlerimizde chatgpt soran “Hjalmar Holmen kim?” Diye soruyor. ChatGPT başlangıçta, görünüşe göre Instagram, SoundCloud ve Discogs gibi sitelerden kaynaklanan farklı insanların bazı fotoğraflarını görüntüleyerek biraz garip bir kombinasyon ile yanıt verdi, bu adın bir bireyinde “herhangi bir bilgi bulamadığını” iddia eden metnin yanı sıra (aşağıdaki ekran görüntüsümüze bakın). İkinci bir deneme, Arve Hjalmar Holmen’i “Norveçli müzisyen ve söz yazarı” olarak tanımlayan bir yanıt verdi.
Hjalmar Holmen hakkındaki Chatgpt tarafından oluşturulan tehlikeli yalanlar durmuş gibi görünse de, hem Noyb hem de Hjalmar Holmen, AI modeli içinde yanlış ve iftira edici bilgilerin tutulabileceğinden endişe ediyor.
Noyb’daki başka bir veri koruma avukatı Kleanthi Sardeli, “Yasaya uymadığınız bir feragat eklemek, yasayı ortadan kaldırmıyor” dedi. “AI şirketleri, içsel olarak hala yanlış bilgileri işlerken kullanıcılardan yanlış bilgileri ‘gizleyemez’.”
“AI şirketleri, GDPR’nin açıkça olduğu zaman kendileri için geçerli değil gibi davranmayı bırakmalı” diye ekledi. “Halüsinasyonlar durdurulmazsa, insanlar itibar hasar görebilir.”
NOYB, Openai’ye karşı şikayeti Norveç Veri Koruma Otoritesi ile sundu – ve OYB, Openai’nin ABD kuruluşundaki şikayeti hedeflediği için İrlanda ofisinin sadece Avrupalıları etkileyen ürün kararlarından sorumlu olmadığını savunduğundan, bekçinin araştırmaya yetkin olduğuna karar vereceğini umuyor.
Bununla birlikte, Nisan 2024’te Avusturya’da açılan Openai’ye karşı daha erken NOYB destekli GDPR şikayeti, o yılın başlarında Openai tarafından İrlanda Bölümü’nü bölgesel kullanıcılara ChatGPT hizmeti sağlayıcısı olarak adlandıran bir değişiklik nedeniyle İrlanda’nın DPC’sine yönlendirildi.
Bu şikayet şimdi nerede? Hala İrlanda’da bir masada oturuyor.
DPC’nin müdür yardımcısı Byrne, bir güncelleme istendiğinde TechCrunch’a yaptığı açıklamada, “Şikayeti Eylül 2024’te Avusturya Denetleme Otoritesinden almış olan DPC, şikayetin resmi işlenmesine başladı ve hala devam ediyor.”
DPC’nin Chatgpt’in halüsinasyonları ile ilgili soruşturmasının sonuçlanması bekleniyor.
