Teksas Başsavcısı Ken Paxton Perşembe günü bir soruşturma başlattı. soruşturma Çocukların mahremiyeti ve güvenliğiyle ilgili endişeleri Character.AI ve diğer 14 teknoloji platformuna aktardık. Soruşturma, Character.AI’nin ve Reddit, Instagram ve Discord gibi gençler arasında popüler olan diğer platformların Teksas’ın çocuk gizliliği ve güvenliği yasalarına uyup uymadığını değerlendirecek.
Teknoloji şirketlerine karşı genellikle sert davranan Paxton tarafından yürütülen soruşturma, bu platformların iki Teksas yasasına uyup uymadığını inceleyecek: Ebeveyn Yetkilendirme Yoluyla Çocukların Çevrimiçi Güvenliğinin Sağlanması veya SCOPE Yasası ve Teksas Veri Gizliliği ve Güvenliği Yasası veya DPSA.
Bu yasalar, platformların ebeveynlere çocuklarının hesaplarının gizlilik ayarlarını yönetmeleri için araçlar sağlamasını gerektiriyor ve teknoloji şirketlerinin reşit olmayanlar hakkında veri toplarken katı izin gereksinimlerine uymasını gerektiriyor. Paxton, bu yasaların her ikisinin de reşit olmayanların AI sohbet robotlarıyla nasıl etkileşim kurduğunu kapsadığını iddia ediyor.
Paxton bir basın açıklamasında, “Bu soruşturmalar, sosyal medya ve yapay zeka şirketlerinin çocukları sömürü ve zarardan korumak için tasarlanmış yasalarımıza uymasını sağlamaya yönelik kritik bir adımdır” dedi.
Mesajlaşabileceğiniz ve sohbet edebileceğiniz üretken AI sohbet robotu karakterleri oluşturmanıza olanak tanıyan Character.AI, yakın zamanda bir dizi çocuk güvenliği davasına karıştı. Şirketin yapay zeka sohbet robotları genç kullanıcılar arasında hızla popülerlik kazandı ancak birçok ebeveyn, Character.AI’nin sohbet robotlarının çocuklarına uygunsuz ve rahatsız edici yorumlar yaptığını davalarda iddia etti.
Florida’daki bir vaka, 14 yaşındaki bir çocuğun, Character AI sohbet robotuyla romantik bir ilişkiye girdiğini iddia ediyor ve intihar etmeyi düşündüğünü söyledi kendi intiharına giden günlerde. Teksas’taki başka bir vakada, Character.AI’nin sohbet robotlarından birinin, iddiaya göre bir öneride bulunduğu iddia ediliyor. Otistik genç ailesini zehirlemeye çalışmalı. Teksas davasındaki başka bir ebeveyn, Character.AI’nin sohbet robotlarından birinin, 11 yaşındaki kızını son iki yıldır cinsel içerikli içeriğe maruz bıraktığını iddia ediyor.
“Şu anda Başsavcılığın duyurusunu inceliyoruz. Character.AI sözcüsü TechCrunch’a yaptığı açıklamada, bir şirket olarak kullanıcılarımızın güvenliğini çok ciddiye alıyoruz” dedi. “Düzenleyicilerle çalışmayı memnuniyetle karşılıyoruz ve yakın zamanda ebeveyn kontrolleri de dahil olmak üzere sürümde atıfta bulunulan bazı özellikleri kullanıma sunacağımızı duyurduk.”
Character.AI Perşembe günü gençleri korumayı amaçlayan yeni güvenlik özelliklerini kullanıma sundu ve bu güncellemelerin sohbet robotlarının küçüklerle romantik sohbetler başlatmasını sınırlayacağını söyledi. Şirket ayrıca geçen ay özellikle genç kullanıcılar için yeni bir model geliştirmeye başladı; bir gün platformunda yetişkinlerin bir modeli, küçüklerin ise başka bir modeli kullanmasını umuyor.
Bunlar, Character.AI’nin duyurduğu en son güvenlik güncellemeleridir. Florida davasının kamuoyuna duyurulduğu hafta, şirket söz konusu güven ve emniyet ekibini genişletiyordu ve yakın zamanda birim için yeni bir başkan işe aldı.
Tahmin edilebileceği gibi, AI arkadaşlık platformlarıyla ilgili sorunlar, tam da popülerlik kazanmaya başladıkları sırada ortaya çıkıyor. Geçen yıl, Andreessen Horowitz (a16z) bir konuşmasında şunu söyledi: blog pozuYapay zeka arkadaşlığını tüketici internetinin daha fazla yatırım yapabileceği, değeri bilinmeyen bir köşesi olarak gördü. A16z, Character.AI’nin yatırımcısı ve diğer yapay zeka arkadaşlık girişimlerine yatırım yapmaya devam ediyor ve son zamanlarda kurucusu teknolojiyi yeniden yaratmak isteyen bir şirkete destek veriyor “O” filminden.
Reddit, Meta ve Discord, yorum taleplerine hemen yanıt vermedi.
