OpenAI, Perşembe günü ChatGPT için yakın zamanda yayınlanan Ses Modu özelliğinin kullanıcıların yapay zeka (AI) modeliyle sosyal ilişkiler kurmasına yol açabileceği konusunda uyardı. Bilgi, şirketin GPT-4o için Sistem Kartının bir parçasıydı; bu, şirketin test ettiği ve araştırdığı AI modelinin potansiyel riskleri ve olası güvenlik önlemleri hakkında ayrıntılı bir analizdir. Birçok risk arasında, insanların chatbot’u insanlaştırma ve ona bağlanma potansiyeli vardı. Risk, erken test sırasında bunun belirtilerini fark ettikten sonra eklendi.
ChatGPT Ses Modu Kullanıcıları Yapay Zekaya Bağlayabilir
Ayrıntılı teknik bir şekilde belge Sistem Kartı olarak etiketlenen OpenAI, GPT-4o ile ilişkilendirilen toplumsal etkileri ve şimdiye kadar yayınladığı AI modelinin desteklediği yeni özellikleri vurguladı. AI firması, esasen insan özelliklerini veya davranışlarını insan olmayan varlıklara atfetmek anlamına gelen antromorfizasyonu vurguladı.
OpenAI, Ses Modunun konuşmayı modüle edebildiği ve gerçek bir insana benzer şekilde duyguları ifade edebildiği için kullanıcıların ona bağlanmalarına yol açabileceği endişesini dile getirdi. Korkular da yersiz değil. Kırmızı takım (ürüne saldırıları simüle etmek için etik hackerlardan oluşan bir grup kullanarak güvenlik açıklarını test etme) ve dahili kullanıcı testlerini içeren erken testleri sırasında şirket, bazı kullanıcıların AI ile sosyal bir ilişki kurduğu durumlar buldu.
Belirli bir örnekte, bir kullanıcının ortak bağları ifade ettiğini ve AI’ya “Bu birlikte son günümüz” dediğini buldu. OpenAI, bu işaretlerin daha uzun bir kullanım süresi boyunca daha etkili bir şeye dönüşüp dönüşemeyeceğini araştırmak gerektiğini söyledi.
Korkular doğruysa, büyük bir endişe, insanların chatbot ile sosyalleşmeye daha fazla alışmasıyla AI modelinin insan-insan etkileşimlerini etkileyebileceğidir. OpenAI, bunun yalnız bireylere fayda sağlayabileceğini ancak sağlıklı ilişkileri olumsuz etkileyebileceğini söyledi.
Başka bir sorun da, genişletilmiş AI-insan etkileşimlerinin sosyal normları etkileyebilmesidir. Bunu vurgulayan OpenAI, ChatGPT ile kullanıcıların AI’yı istedikleri zaman kesip “mikrofonu alabilecekleri” örneğini verdi; bu, insan-insan etkileşimleri söz konusu olduğunda norm dışı bir davranıştır.
Ayrıca, insanların AI ile bağ kurmasının daha geniş etkileri vardır. Bu sorunlardan biri ikna ediciliktir. OpenAI, modellerin ikna edicilik puanının endişe verici olacak kadar yüksek olmadığını bulmuş olsa da, kullanıcı AI’ya güvenmeye başlarsa bu durum değişebilir.
Şu anda AI firmasının buna yönelik bir çözümü yok ancak gelişmeyi daha fazla gözlemlemeyi planlıyor. OpenAI, “Duygusal bağımlılık potansiyelini ve modelimizin ve sistemlerimizin birçok özelliğinin ses modalitesiyle daha derin entegrasyonunun davranışı nasıl yönlendirebileceğini daha fazla incelemeyi amaçlıyoruz” dedi.