Character.AI, annesi platformdaki bir chatbot’a takıntılı hale geldiğini söyleyen 14 yaşındaki Floridalı bir çocuğun intiharından sonra dava edildi.
Binaen The New York Times’a göre, Orlando’dan dokuzuncu sınıf öğrencisi Sewell Setzer III, Character.AI’nin yapay zeka rol yapma uygulamasında aylarca sohbet robotlarıyla konuşmuştu. Setzer, özellikle sürekli mesaj attığı “Dany” adlı bir robotla duygusal bir bağ geliştirdi; öyle ki gerçek dünyadan uzaklaşmaya başladı.
Setzer, bota intihar etmeyi düşündüğünü itiraf etti ve ölümünden kısa bir süre önce bunu mesaj attı.
Bu sabah, Character.AI söz konusu Hizmet şartlarını ihlal eden sohbetlerle ilgili “gelişmiş tespit, yanıt ve müdahale” ve bir kullanıcı sohbette bir saat geçirdiğinde bildirim de dahil olmak üzere bir dizi yeni güvenlik özelliği sunacak.
The Times’ın yazdığı gibi, artık yapay zeka arkadaşlık uygulamalarının hızla gelişen bir endüstrisi var ve bunların zihinsel sağlık üzerindeki etkileri büyük ölçüde incelenmiyor.