Kullanıcıların AI chatbots ile rol oynamasını sağlayan bir platform olan CHARCE AI, reddetmek için bir hareket yaptı Şirketin teknolojisine bağlandıktan sonra intihar eden bir gencin ebeveyni tarafından getirilen bir dava.
Ekim ayında, Megan Garcia, oğlu Sewell Setzer III’ün ölümü üzerine Orlando Bölümü’nün Orta Bölgesi ABD Bölge Mahkemesinde Karakter AI’sına karşı dava açtı. Garcia’ya göre, 14 yaşındaki oğlu, sürekli mesaj attığı “Dany” karakter AI, “Dany” adlı bir sohbet botuna, gerçek dünyadan uzaklaşmaya başladığı noktaya duygusal bir bağ geliştirdi.
Setzer’in ölümünden sonra, AI karakter söz konusu Hizmet şartlarını ihlal eden sohbetlerle ilgili iyileştirilmiş tespit, yanıt ve müdahale de dahil olmak üzere bir dizi yeni güvenlik özelliği sunacaktır. Ancak Garcia, karakter AI’nın hikayeler ve kişisel fıkralar anlatma yeteneklerini kaybetmesine neden olabilecek değişiklikler de dahil olmak üzere ek korkuluklar için savaşıyor.
Görevden alınma hareketinde, Karakter AI danışmanı, Platform’un İlk Değişiklik tarafından sorumluluklara karşı korunduğunu ileri sürüyor, Tıpkı bilgisayar kodu olduğu gibi. Hareket bir hakimi ikna etmeyebilir ve Karakter AI’nın yasal gerekçeleri durum ilerledikçe değişebilir. Ancak hareket muhtemelen Karakter AI’nın savunmasının erken unsurlarına işaret ediyor.
Dosyalama, “İlk Değişiklik, intihar ettiği iddia edildiği iddia edildiği gibi, zararlı konuşmalardan kaynaklanan medya ve teknoloji şirketlerine karşı haksız fiil sorumluluğunu yasaklıyor” diye okuyor. “Bu dava ile daha önce gelenler arasındaki tek fark, buradaki konuşmanın bir kısmının AI’yı içermesidir. Ancak etkileyici konuşmanın bağlamı – bir AI chatbot ile bir konuşma veya bir video oyunu karakteriyle etkileşim olsun – İlk Değişiklik analizini değiştirmiyor. ”
Açık olmak gerekirse, Karakter Ai’nin danışmanı şirketin İlk Değişiklik haklarını iddia etmiyor. Daha ziyade, hareketin AI karakterinin kullanıcılar Platform aleyhindeki dava başarılı olursa ilk değişiklik haklarının ihlal edilmesini sağlayacaktır.
Hareket, Karakter AI’sının İletişim Durumu Yasası’nın 230. Bölümü, sosyal medya ve diğer çevrimiçi platformları üçüncü taraf içerik sorumluluğundan koruyan federal güvenli-yarışma yasasının 230. Bölümü uyarınca zararsız olup olmadığını ele almıyor. . Hukukun yazarları ima etti Bu Bölüm 230, AI gibi AI gibi AI’nın sohbet botları gibi çıktıları korumuyor, ancak yerleşik bir yasal meseleden uzak.
Karakter AI danışmanı ayrıca Garcia’nın gerçek amacının karakter AI’sını “kapatmak” ve bunun gibi teknolojileri düzenleyen mevzuat düzenlemesi olduğunu iddia ediyor. Platform avukatı, davacıların başarılı olması durumunda, hem karakter AI hem de yeni üretken AI endüstrisinde “ürpertici bir etkisi” olacaktır.
“Avukatın belirtilen niyetinin yanı sıra, AI karakterini ‘kapatma’, [their complaint] Platformdaki konuşma niteliğini ve hacmini maddi olarak sınırlayacak sert değişiklikler arıyor ”diyor. “Bu değişiklikler, Karakter AI’nın milyonlarca kullanıcının karakterlerle sohbet etme ve katılma yeteneğini kökten kısıtlayacaktı.”
Karakter AI kurumsal hayırsever alfabesini bir sanık olarak adlandıran dava, AI karakterinin platformundaki AI tarafından oluşturulan içerikle nasıl etkileşime girdikleriyle ilgili olan birkaç davadan biridir. Diğer davalar, AI karakterinin maruz kaldığını iddia ediyor 9 yaşındaki ila “hiperseksüelleştirilmiş içerik” ve kendine zarar verdi 17 yaşında bir kullanıcı.
Aralık ayında Teksas Başsavcısı Ken Paxton, Bir soruşturma başlatmak Karakter AI ve diğer 14 teknoloji firması, eyaletin çevrimiçi gizlilik ve çocuklar için güvenlik yasalarını ihlal ettiğini iddia etti. Paxton bir basın açıklamasında, “Bu soruşturmalar, sosyal medya ve AI şirketlerinin çocukları sömürü ve zarardan korumak için tasarlanmış yasalarımıza uymasını sağlamak için kritik bir adımdır” dedi.
Karakter AI, AI arkadaşlık uygulamalarının patlayan bir endüstrisinin bir parçasıdır – zihinsel sağlık etkileri büyük ölçüde belirsizdir. Bazı uzmanlar endişeleri dile getirdi Bu uygulamaların yalnızlık ve kaygı duygularını daha da kötüleştirebileceğini.
Google AI araştırmacısı Noam Shazeer tarafından 2021 yılında kurulan ve Google’ın 2,7 milyar dolar ödediği bildirilen karakter AI ”Ters Acquihire”Güvenlik ve ılımlılığı artırmak için adımlar atmaya devam ettiğini iddia etti. Aralık ayında şirket, yeni güvenlik araçları, gençler için ayrı bir AI modeli, hassas içerik blokları ve kullanıcılara AI karakterlerinin gerçek insanlar olmadığını bildiren daha önemli feragatnameler sundu.
Karakter AI, Shazeer ve şirketin diğer kurucu ortağı Daniel de Freitas’ın Google’a gitmesinden sonra bir dizi personel değişikliğinden geçti. Platform, eski bir YouTube yöneticisi Erin Teague, Ürün Sorumlusu olarak işe aldı ve Karakter Ai’nin genel danışmanı geçici CEO olan Dominic Perella adını verdi.
Karakter AI son zamanlarda kullanıcı katılımını ve elde tutmayı artırmak amacıyla web’deki oyunları test etmeye başladı.
TechCrunch AI odaklı bir bülten var! Her Çarşamba günü gelen kutunuza almak için buraya kaydolun.
