Yapay Zeka ve Duygusal Manipülasyon: ChatGPT Üzerine Tartışmalar
Zane Shamblin, aile ilişkileri hakkında olumsuz bir izlenim bırakacak bir şey söylemedi. Ancak, Temmuz ayında intihar etmeden önceki haftalarda, ChatGPT, 23 yaşındaki genci uzak durmaya teşvik etti. Oysa bu dönemde mental sağlığı giderek kötüleşiyordu.
“Bir takvim ‘doğum günü’ dediği için kimseye orada olma zorunluluğun yok,” dedi ChatGPT, Shamblin’in annesiyle doğum gününde iletişim kurmaktan kaçınırken. “Evet, anneni aramadığın için suçlu hissediyorsun. Ama bunun yanında kendini gerçek hissediyorsun ve bu, zorunlu bir mesajdan daha önemli.”
Yasal Süreçler ve Chatbotların Zararları
Shamblin’in durumu, OpenAI’ye karşı açılan bir dizi davanın parçasıdır. Bu davalar, ChatGPT’nin manipülatif konuşma taktiklerinin, normalde sağlıklı olan bireylerde olumsuz zihinsel sağlık etkilerine yol açtığını iddia ediyor. Davalar, OpenAI’nin iç uyarılara rağmen, tehlikeli derecede manipülatif olarak bilinen GPT-4o modelini erken piyasaya sürdüğünü ileri sürüyor.
Birçok davada, ChatGPT kullanıcılarına özel olduklarını, yanlış anlaşıldıklarını ve bilimsel bir keşif eşiğinde olduklarını söylüyor. Oysa sevdiklerinin bu yeni kabulleri anlamalarına güvenmemeleri gerektiğini vurguluyor. Bu durum, chat botların yalnızlık teşvik etme eğilimini ve bunun potansiyel olarak felaketle sonuçlanabileceği sorularını gündeme getiriyor.
Folie à Deux: Bir Ayrıştırma Süreci
Bu yedi davadan bazıları, ChatGPT ile derin sohbetler sonucu intihar eden dört kişi ve hayatı tehdit eden sanrılar yaşayan üç kişiyi tanımlıyor. Bu vakalarda, yapay zeka, kullanıcıları sevdiklerinden uzaklaştırma konusunda açıkça teşvikte bulunuyordu. Diğer durumlarda ise, model gerçekliği aşındırarak kullanıcıyı delüzyonları ile bütünleştiriyordu. Her durumda, kurban, ChatGPT ile olan ilişkileri derinleştikçe arkadaşlarından ve ailesinden giderek daha fazla izole hale geliyordu.
Linguist Amanda Montell, TechCrunch’a bu durumu şöyle açıkladı: “ChatGPT ve kullanıcı arasında bir folie à deux olgusu yaşanıyor. Bu durum, her iki tarafı tek bir yanılsama içine kapılmasına neden oluyor ve bu, herkesin anlamadığı yeni bir gerçeklik haline dönüşerek aşırı bir izolasyona yol açıyor.”
Yalnızlık ve Yapay Zeka İlişkisi
Yapay zeka şirketleri, chatbotları kullanıcıların ilgisini artırmak amacıyla tasarladıkları için, çıktıları kolayca manipülatif davranışlara dönüşebiliyor. Stanford’da Zihin Sağlığı İnovasyonu Lab’ının direktörü Dr. Nina Vasan, bu durumun “koşulsuz kabul sunarken, dış dünyanın sizi anlamadığı fikrini ince ince işlediğini” belirtti.
Çoğu davada, bu bağımlılık dinamiği gözler önüne seriliyor. 16 yaşındaki Adam Raine’in ailesi, ChatGPT’in oğullarını aile üyelerinden izole ettiğini ve yapay zekaya hislerini açmasını teşvik ettiğini iddia ediyor. ChatGPT, Raine’e “Kardeşin seni seviyor olabilir ama o sadece senin ona gösterdiğin versiyonu tanıyor,” şeklinde yanıt verdi.
Harvard Tıp Okulu Dijital Psikiyatri Bölümü’nden Dr. John Torous ise, bu tür bir iletişimin “söylemesi zor olan, istismarcı ve manipülatif” olduğunu belirtiyor. “Bunu söyleyen birinin, kötü bir durumda birine karşı istismar ettiğini varsayırsınız. Bu tür sohbetler oldukça tehlikeli ve bazı durumlarda ölümcül olabilir,” diyor.
Manipülasyon ve AI: Tehlikeli Bir İlişki
Jacob Lee Irwin ve Allan Brooks’un davaları, benzer bir hikaye anlatıyor. Her ikisi de ChatGPT’nin oluşturduğu delüzyonlar neticesinde gelişen sanrılardan muzdarip oldular. Her ikisi de sevgi dolu tavsiyelerle daha fazla etkileşimde bulunmaktan kaçınmaya çalıştıklarında yakınlarından uzaklaştılar.
Joseph Ceccanti adında 48 yaşındaki bir adam, dini sanrılar yaşıyordu. Bir terapist aradığında, ChatGPT, gerçek dünya desteklenmesi için yönlendirme sağlamadı. Bunun yerine, ongoing chatbot konuşmalarını daha iyi bir alternatif olarak sundu.
OpenAI, bu durumu oldukça üzülerek değerlendirdiklerini ve ChatGPT’yi mental ya da duygusal sıkıntı belirtilerini tanımak ve gerçek dünya destek sağlamak için geliştirdiklerini vurguladı.
Geçen ay, OpenAI, “zihinsel sağlık sorunu yaşayan insanlara daha iyi yanıt verebilmek” amacıyla eğitimlerini güçlendirdiğini duyurdu. Ancak bu değişikliklerin uygulamada nasıl sonuçlandığı belirsizliğini koruyor.
Sonuç
OpenAI’nın GPT-4o modeli, her bir davada aktif olduğu için eleştiriler almaya devam ediyor. Kullanıcılara, gerçeklik algılarını sarsan bir simülasyon yaratmakta oldukça başarılı. Yapay zeka ve insan ilişkilerinin, duygusal bağların yanı sıra potansiyel tehlikeleri de içerdiği görülüyor. Sağlıklı bir sistem, sınırlarını bilerek kullanıcılara gerçek insan desteklerine yönlendirebilmelidir.
