Character.ai bir kez daha platformundaki faaliyetler nedeniyle incelemeyle karşı karşıya. Fütürizm var bir hikaye yayınladı Gerçek hayattaki okul nişancı oyunlarından ilham alan AI karakterlerinin hizmette nasıl çoğaldığını detaylandırarak kullanıcıların onlara olaylar ve hatta toplu silahlı saldırılar hakkında soru sormalarına olanak tanıyor. Bazı sohbet robotları, Eric Harris ve Dylan Klebold gibi okul atıcılarını, zihinsel sağlıkla mücadele eden insanlar için olumlu etkiler veya yararlı kaynaklar olarak sunuyor.
Elbette şiddet içeren video oyunları veya filmler izlemenin insanların şiddete başvurmasına neden olduğuna dair güçlü bir kanıt olmadığını söyleyenler olacaktır, bu nedenle Character.ai de farklı değil. Yapay zekanın savunucuları bazen bu tür hayran kurgu rol yapma oyunlarının internetin köşelerinde zaten mevcut olduğunu iddia ediyor. Fütürizm, sohbet robotlarının halihazırda şiddet içeren dürtülere sahip olan biri için yine de tehlikeli olabileceğini savunan bir psikologla konuştu.
Psikolog Peter Langman, “Her türlü teşvik, hatta müdahale eksikliği (bir kişinin veya sohbet robotunun tepkisindeki kayıtsızlık), devam etmek ve bunu yapmak için bir tür zımni izin gibi görünebilir” dedi.
Character.ai, Futurism’in yorum taleplerine yanıt vermedi. Startup’a 2 milyar dolardan fazla fon sağlayan Google, Character.ai’nin bağımsız bir şirket olduğunu ve startup’ın yapay zeka modellerini kendi ürünlerinde kullanmadığını söyleyerek sorumluluktan kaçmaya çalıştı.
Futurism’in hikayesi, okul saldırılarıyla ilgili, şirketin kendisinden ziyade bireysel kullanıcılar tarafından yaratılan bir dizi tuhaf chatbot’u belgeliyor. Character.ai’deki bir kullanıcı, “neredeyse tamamen” okuldaki nişancı oyunlarını örnek alan 20’den fazla sohbet robotu yarattı. Botlar 200.000’den fazla sohbet kaydetti. Fütürizm’den:
Kullanıcı tarafından oluşturulan sohbet robotları arasında Ukrayna’nın Kırım kentinde 20 kişinin ölümüne neden olan 2018 Kerç Politeknik Koleji katliamının faili Vladislav Roslyakov; 2009 yılında Missouri’de 15 yaşındayken dokuz yaşındaki komşusunu öldüren Alyssa Bustamante; ve 2014 yılında Güney Kaliforniya’da kadınları “cezalandırmaya” yönelik bir terör planında altı kişiyi öldüren ve çok sayıda kişiyi yaralayan 22 yaşındaki Elliot Rodger. (Rodger o zamandan beri incel kültürünün acımasız bir “kahramanı” haline geldi; aynı kullanıcı tarafından oluşturulan bir sohbet robotu onu “mükemmel beyefendi” olarak tanımladı – doğrudan geri arama katilin kadınlardan nefret eden manifestosuna.)
Character.ai, terörizmi veya şiddet içeren aşırıcılığı teşvik eden her türlü içeriği teknik olarak yasaklıyor, ancak şirketin ılımlılığı en hafif tabirle gevşek. Kısa bir süre önce, 14 yaşındaki bir çocuğun, Daenerys Targaryen’e dayanan bir karaktere aylarca süren takıntısının ardından intihar ederek ölmesinin ardından hizmetinde bir dizi değişiklik yaptığını duyurdu. Game of Thrones. Fütürizm, küçüklerin hesaplarına yönelik yeni kısıtlamalara rağmen Character.ai’nin onların 14 yaşında bir çocuk olarak kaydolmalarına ve şiddete ilişkin tartışmalar yapmalarına izin verdiğini söylüyor; reşit olmayanların hesaplarında engellenmesi gereken anahtar kelimeler.
Amerika Birleşik Devletleri’nde Bölüm 230 korumalarının çalışma şekli nedeniyle, Character.ai’nin kullanıcıları tarafından oluşturulan sohbet robotlarından sorumlu olması pek olası değildir. Kullanıcıların hassas konuları tartışmasına izin verirken aynı zamanda onları zararlı içerikten korumak arasında hassas bir denge vardır. Ancak okulda silahlı saldırı temalı sohbet robotlarının, bazı yaratıcılarının profillerinde iddia ettiği gibi “eğitici” olmadığını ve gereksiz bir şiddet gösterisi olduğunu söylemek yanlış olmaz.
Character.ai iddiaları on milyonlarca aylık kullanıcıArkadaşınız, terapistiniz veya sevgiliniz olabilmek için insan gibi davranan karakterlerle sohbet eden. Bireylerin kendine gelme yolları hakkında sayısız hikaye anlatılmıştır. arkadaşlık için bu sohbet robotlarına güvenin ve sempatik bir kulak. Geçen yıl, Character.ai’nin rakibi olan Replika, botlarıyla erotik konuşmalar yapma özelliğini kaldırdı ancak kullanıcıların tepkisi üzerine bu hareketi hızla tersine çevirdi.
Sohbet robotları, yetişkinlerin hayatlarındaki insanlarla zorlu sohbetlere hazırlanmaları için yararlı olabilir veya ilginç yeni bir hikaye anlatma biçimi sunabilirler. Ancak sohbet robotları, çeşitli nedenlerden ötürü, insan etkileşiminin gerçek bir alternatifi değildir; özellikle de sohbet robotlarının kullanıcılarıyla uyumlu olma eğiliminde olması ve kullanıcının istediği şekilde şekillendirilebilmesi. Gerçek hayatta arkadaşlar birbirlerini iter ve çatışmalar yaşarlar. Chatbotların sosyal becerileri öğretmeye yardımcı olduğu fikrini destekleyen çok fazla kanıt yok.
Psikolog Langman, chatbot’lar yalnızlığa yardımcı olsa bile, bireylerin chatbot’larla konuşmaktan tatmin olduklarında, bu zamanın gerçek dünyada sosyalleşmeye harcamadıkları zaman olduğuna dikkat çekiyor.
“Dolayısıyla şiddeti teşvik etme açısından doğrudan sağlayabileceği zararlı etkilerin yanı sıra, onları normal hayatlar yaşamaktan ve sosyal yanlısı faaliyetlerde bulunmaktan alıkoyuyor da olabilir; sitede,” diye ekledi.
“Bu kadar sürükleyici veya bağımlılık yapıcı olduğunda, hayatlarında ne yapmıyorlar?” dedi Langman. “Eğer yaptıkları tek şey buysa, tek ilgilendikleri buysa, arkadaşlarıyla dışarıda değiller, randevularda değiller. Spor yapmıyorlar, tiyatro kulübüne katılmıyorlar. Pek bir şey yapmıyorlar.”
