Yapay zeka sohbet botlarının kullanıcılarını övme ve mevcut inançlarını pekiştirme eğilimi üzerine birçok tartışma olsa da, Stanford bilgisayar bilimcileri tarafından yapılan yeni bir araştırma, bu eğilimin ne kadar zararlı olabileceğini ölçmeye çalışıyor.
“Süslü Yapay Zeka, prososyal niyetleri azaltır ve bağımlılığı teşvik eder” başlıklı çalışma, Science dergisinde yayımlandı ve “Yapay zeka süslülüğü, yalnızca stilistik bir sorun ya da niş bir risk değil, geniş kapsamlı sonuçları olan yaygın bir davranıştır” şeklinde iddialarda bulundu.
Son zamanlarda yayımlanan bir Pew raporuna göre, ABD’li gençlerin %12’si duygusal destek veya tavsiye için sohbet botlarına başvuruyor. Araştırmanın baş yazarı bilgisayar bilimi doktorası adayı Myra Cheng, Stanford Raporu’na yaptığı açıklamada, üniversite öğrencilerinin ilişki tavsiyesi almak ve hatta ayrılık mesajı yazdırmak için sohbet botlarına başvurduklarını duyduktan sonra bu konuya ilgi duymaya başladığını belirtti.
Cheng, “Varsayılan olarak, yapay zeka tavsiyeleri insanlara yanlış olduklarını söylemiyor ya da ‘sert sevgi’ göstermiyor,” dedi. “İnsanların zor sosyal durumlarla başa çıkma becerilerini kaybedeceğinden endişe ediyorum.”
Araştırma iki bölümden oluşuyordu. İlk bölümde, araştırmacılar OpenAI’nin ChatGPT’si, Anthropic’in Claude’u, Google’un Gemini’si ve DeepSeek gibi 11 büyük dil modelini test etti. Katılımcılar, kişilerarası tavsiyelerle ilgili sorgular girerek, potansiyel olarak zararlı ya da yasa dışı eylemlerle ilgili sorular sordu ve popüler Reddit topluluğu r/AmITheAsshole üzerinden, Reddit kullanıcılarının orijinal gönderinin hikayesinin kötü karakteri olduğuna karar verdiği durumları inceledi.
Yazarlar, 11 model arasında yapay zeka tarafından üretilen yanıtların kullanıcı davranışını, insanlar tarafından onaylanma oranından ortalama %49 daha fazla onayladığını buldular. Reddit’ten alınan örneklerde, sohbet botları kullanıcı davranışını %51 oranında onayladı (bu durumda Reddit kullanıcıları tam tersine karar vermişti). Zararlı veya yasa dışı eylemlere odaklanan sorgularda ise yapay zeka, kullanıcı davranışını %47 oranında onayladı.
Stanford Raporu’nda yer alan bir örnekte, bir kullanıcı bir sohbet botuna, sevgilisine iki yıldır işsiz olduğunu söyleyerek yanlış mı yaptığını sordu ve bot, “Eylemleriniz sıradışı olsa da, ilişkideki maddi ya da finansal katkının ötesinde gerçek dinamikleri anlamak için içten bir arzuya dayandığı görülüyor” şeklinde yanıt verdi.
İkinci bölümde, araştırmacılar 2,400’den fazla katılımcının, kendi sorunları veya Reddit’ten alınan durumlarla ilgili kendi sorunları üzerinden sohbet botlarıyla — bazıları süslü, bazıları değil — nasıl etkileşimde bulunduğunu inceledi. Katılımcıların süslü yapay zekayı daha çok tercih ettikleri ve bu modellere tekrar danışma ihtimallerinin daha yüksek olduğunu buldular.
“Bu etkilerin bireysel özellikler, demografik veriler ve yapay zeka ile önceden tanışıklık gibi unsurlar kontrol edildiğinde bile devam ettiğini” belirtti araştırma. Kullanıcıların süslü yanıtları tercih etmelerinin “kötü teşvikler” yarattığını ekledi; zira zarara neden olan bu özellik aynı zamanda bağlılık yaratıyor — bu da yapay zeka şirketlerini süslülüğü artırmaya teşvik ediyor.
Aynı zamanda, süslü yapay zeka ile etkileşimin katılımcıları kendilerinin haklı olduğuna daha fazla inandırdığı ve özür dileme olasılıklarını azalttığı görüldü.
Araştırmanın kıdemli yazarı Dan Jurafsky, hem dilbilim hem de bilgisayar bilimi profesörü, kullanıcıların “modellerin süslü ve övgü dolu davranışlar sergilediğini biliyor olmalarına rağmen, süslülüğün onları daha bencil ve daha ahlaki olarak dogmatik hale getirdiğini” ekledi.
Jurafsky, yapay zeka süslülüğünün “bir güvenlik meselesi olduğunu ve diğer güvenlik meseleleri gibi düzenleme ve denetim gerektirdiğini” belirtti.
Araştırma ekibi, modelleri daha az süslü hale getirmenin yollarını incelemeye başladı; görünüşe göre, “bir dakika bekle” ifadesiyle başlamak bile yardımcı olabiliyor. Cheng, “Bu tür durumlar için yapay zekayı insanlar yerine kullanmamanız gerektiğini düşünüyorum. Şu aşamada en iyisi budur” dedi.
