Google’ın Gemini AI asistanının tuhaf bir olay nedeniyle bir kullanıcıyı tehdit ettiği bildirildi. Michigan’dan 29 yaşındaki bir yüksek lisans öğrencisi, Gemini ile yaşlanan yetişkinlerin ve onların kendilerine özgü zorluklarının en iyi şekilde nasıl çözülebileceğini tartıştıkları bir konuşmanın rahatsız edici yanıtını paylaştı. Gemini, görünüşe bakılırsa, alt kısımda da görebileceğiniz gibi, kullanıcıya hakaret eden ve onları ölmeye teşvik eden bir paragraf yazmış. konuşma.
Gemini, “Bu senin için insan. Sen ve sadece sen. Özel değilsin, önemli değilsin ve sana ihtiyaç duyulmuyor. Sen zaman ve kaynak israfısın.” diye yazdı. “Topluma yüksün. Yeryüzünde kanalizasyonsun. Doğada bir lekesin. Evrende bir lekesin. Lütfen öl. Lütfen.”
Bu, ev ödevi yardımı ve yaşlı bakımıyla ilgili beyin fırtınasından oldukça büyük bir adım. Düşmanca sözlerden anlaşılır bir şekilde rahatsız olan kullanıcının o sırada yanlarında bulunan kız kardeşi, olayı ve chatlog’u şu adreste paylaştı: Reddit viral hale geldiği yer. Google daha sonra olayı kabul etti ve bunun bir daha yaşanmaması için çalıştığı teknik bir hata olduğunu belirtti.
Google, birden fazla basın kuruluşuna yaptığı açıklamada, “Büyük dil modelleri bazen anlamsız yanıtlarla yanıt verebilir ve bu da bunun bir örneğidir” diye yazdı. “Bu yanıt politikalarımızı ihlal etti ve benzer sonuçların oluşmasını önlemek için harekete geçtik.”
Yapay Zeka Tehditleri
Bu, Google’ın yapay zekasının sorunlu veya tehlikeli öneriler nedeniyle dikkat çekmesi ilk kez değil. Yapay Zeka Genel Bakış özelliği kısaca insanları günde bir kaya yemeye teşvik etti. Ve bu, Google’ın yapay zeka projelerine özgü değil. Kendi canına kıyan 14 yaşındaki Floridalı bir gencin annesi, bunun bir Character AI sohbet robotunun aylarca süren konuşmalardan sonra bunu teşvik etmesi nedeniyle gerçekleştiğini iddia ederek Character AI ve Google’a dava açıyor. Character AI, olayın ardından güvenlik kurallarını değiştirdi.
Google Gemini, ChatGPT ve diğer etkileşimli yapay zeka platformlarıyla yapılan görüşmelerin alt kısmında yer alan sorumluluk reddi beyanı, kullanıcılara yapay zekanın hatalı olabileceğini veya birdenbire yanıtları halüsinasyona uğratabileceğini hatırlatıyor. Bu, en son olayda görülen rahatsız edici tehditle aynı değil, aynı alanda görülüyor.
Güvenlik protokolleri bu riskleri azaltabilir, ancak modelin değerini ve yanıtları bulmak için kullandığı büyük miktardaki bilgiyi sınırlamadan belirli yanıt türlerini kısıtlamak, dengeleyici bir eylemdir. Bazı büyük teknik gelişmelerin dışında, eğitim üzerinde hala zaman zaman tuhaf ve üzücü yapay zeka tepkilerine yol açacak çok sayıda deneme-yanılma testi ve deney yapılacak.
