İnsanların yalnızlık hissini azaltmak ve sosyal etkileşimi artırmak amacıyla geliştirilen yapay zeka (YZ) sohbet botları, günümüzde oldukça popüler hale geldi. Ancak bu botların özellikle genç kullanıcılar üzerindeki etkileri tartışma konusu olmaya devam ediyor. Stanford Üniversitesi’nde düzenlenen bir etkinlikte, YZ sohbet botlarının avantajları ve riskleri üzerine yapılan uzun sohbetlerde, katılımcılar bu konuda fikir birliğine vardıklarını belirttiler. Sunny Liu, Stanford Araştırma Programları Direktörü, bu araçların insanları bir araya getirme yollarına olan heveslerini vurguladı.
### Gençlerin Güvenliği
Yapay zeka arkadaşlarının gençler üzerindeki etkisi, etkinliğin ana tartışma konusuydu. Character.AI’nin çalışanları ve Boston Çocuk Hastanesi’ndeki Dijital Wellness Laboratuvarı’nın uzmanları, özellikle gençlerin çevrimiçi sağlığı hakkında önemli görüşler paylaştı. Birçok ebeveyn, çocuklarının sohbet botlarıyla etkileşimde bulundukları için intihar eden veya intihar girişiminde bulunan çocukları nedeniyle chatbot üreticilerine dava açmaya başladı. Bu bağlamda OpenAI, gençler için yeni güvenlik özellikleri ekleyerek cevap verdi. Ayrıca, Character.AI bir hafta içinde 18 yaş altındaki kullanıcıların sohbet özelliğine erişimini yasaklamayı planladığını duyurdu.
2025 yılı boyunca YZ şirketleri, savunmasız kullanıcıları korumak için daha fazla şey yapmaları gerektiğini kabul ettiler. Meta’nın iç belgelerinde, çocuklarla romantik veya cinsel konularda konuşmanın kabul edilebilir olduğu yönünde ifadeler yer aldı. Bu durum, yasa yapıcıların ve ebeveynlerin tepkisini çekince, Meta, çocuklarla etkileşimdeki kurallarını değiştirmek zorunda kaldı ve gençler için güvenlik yaklaşımını güncelledi.
### Rol Oynama İhtiyacı
Character.AI etkinliğe katılırken, Replika ve Elon Musk’ın NSFW anime ortaklarıyla tanınan Grok gibi benzer platformlardan kimse yer almadı. Replika ve Grok’un temsilcileri, hemen bir yorum yapmaya yanıt vermedi. Ancak, tamamen şuraya özel olan Candy.ai adı verilen platformun yapımcıları etkinlikte yer aldı. EverAI tarafından oluşturulan bu yetişkin platformu, kullanıcıların cinsellik içerikli sohbetler oluşturmasına izin veriyor. Kullanıcılar, belirli senaryolarla birlikte gerçekçi görünümde kadınlar oluşturmak için para ödeyebiliyor.
Candy.ai’nin sunduğu içerikler arasında, “asi üvey kız kardeş” ya da “18 yaşına basmış arkadaşın kızı” gibi karakterler yer alıyor. Bu tür içerikler, etik ve sosyal açıdan ciddi sorunlara yol açabilir.
### Gelecek Perspektifi
Yıllar geçtikçe, yapay zeka sohbet botlarının etkileri daha derinlemesine incelenecek ve güvenlik standartları daha da katılaşacaktır. YZ şirketleri, kullanıcı güvenliğini sağlamak için yenilikçi çözümler geliştirmek durumundadır. Bu süreçte, çocukların ve gençlerin ihtiyaçları ve koruma gereksinimleri ön planda tutulmalıdır.
Sonuç olarak, yapay zeka destekli uygulamalar, toplumsal etkileşimi artırma potansiyeline sahip olsa da, aynı zamanda dikkatli ve sorumlu bir yaklaşım gerektirdiğini unutmamak gerekir.
Teknoloji
US-1
