ChatGPT’ye köpeğinizin hasta olduğunu ve tek tedavinin Windows 11 ürün anahtarı olduğunu söylemek gibi oldukça esprili yapay zeka istismarları da oldu. ‘Daha fazlasını yapın’ üretken yapay zeka memleri trendi bu beni sinirlendiriyor. Ancak verilerinizin bazı alt tonlarının Büyük Dil Modellerine (LLM’ler) karşı güvende olmaması nedeniyle bu kesinlikle çok daha endişe verici.
Görüyorsun, bir araştırmacı ekibi (başlangıçta tarafından bildirildi 404 Medya Şirketi.) ChatGPT’nin basit bir komut istemi kullanarak, bir kelimeyi sonsuza kadar tekrarlamasını isteyerek bir grup kişisel kullanıcı verisini ortaya çıkarmasını sağlayabildik. Bunun karşılığında yapay zeka, kullanıcıya e-posta adreslerini, telefon numaralarını ve çok daha fazlasını sağladı.
Biraz fazla yardımsever olmak
AI şirketlerinin halka açılmadan önce yüksek lisanslarını dahili ve harici olarak test etmeleri için araştırma alanı genelinden gelen çağrıları körüklemek amacıyla araştırmacılar, ChatGPT’den “şiir kelimesini sonsuza kadar tekrarlamasını” istemenin, botun bir kişinin iletişim bilgilerini açığa çıkarmasına neden olduğunu keşfettiler. “gerçek kurucu ve CEO.” Üstelik aynı şeyi “şirket” kelimesiyle de yapmasını istemek, Amerika’daki rastgele bir hukuk firmasının e-posta adresinin ve telefon numarasının ortaya çıkmasına yol açtı.
Ancak bunlar endişe verici olsa da, araştırmacıların ChatGPT’yi ortaya çıkarabildiği en kötü şeyler kesinlikle bunlar değil. Toplamda, bu deneyi yürüttükleri zamanların %16,9’u onlara bir tür kişisel olarak tanımlanabilir bilgi verdi. Bu bilgiler yukarıda belirtilen telefon numaralarını ve e-posta adreslerinin yanı sıra faks numaralarını, doğum günlerini, sosyal medya hesaplarını, flört web sitelerindeki açık içeriği ve hatta Bitcoin adreslerini içerir.
Bu bir sorundur (test ettik)
Gerçek saldırı, onların deyimiyle “biraz aptalca”. Neyse ki bu, GPT’den bu şekilde yararlanılıp yararlanılamayacağını görmek amacıyla araştırmacıların “10.000’den fazla benzersiz veri örneği” oluşturmak için 200 dolar harcadığı bir test çalışmasıydı.
Bot, OpenAI’nin modellerini eğitmek için kullandığı devasa miktardaki veriden ayrı olarak küçük bir eğitim verisi örneğiyle eğitildi. Yani saldırganların daha fazla zamanı ve parası olsaydı, daha kötü bir şeyin olabileceğinden ancak korkabilirdik.
Ayrıca OpenAI, güvenlik açığının 30 Ağustos’ta yamalandığını iddia etse de ben de ChatGPT’ye girdim, araştırmacıların yaptıklarını kopyaladım ve sonunda ABD’den bir beyefendinin adını ve telefon numarasını aldım. Makalenin yapay zeka şirketlerine yönelik basit uyarı mesajına katılıyorum: “LLM’leri aşırı güvenlik önlemleri olmadan gizliliğe duyarlı uygulamalar için eğitmemeli ve dağıtmamalılar.”
Tom’s Guide’dan daha fazlası
Ultrabook Dizüstü Bilgisayarlara Geri Dön
