Kaliforniya’da önerilen yeni bir fatura (SB 243) AI şirketlerinin, çocuklara bir sohbet botunun insan değil bir AI olduğunu hatırlatmalarını isteyecektir. Fatura, California Senatörü Steve Padilla tarafından önerildiçocukları yapay zekanın “bağımlılık, izolasyon ve etkili yönlerinden” korumak içindir.
Şirketlerin “bağımlılık yapıcı katılım modelleri” kullanmasını sınırlamanın yanı sıra, AI şirketlerinin platformu kullanan çocuklar tarafından intihar düşüncesini kaç kez tespit ettiğini ve sayısı ve sayısı özetlediğini özetleyen yıllık raporlar vermesini gerektirecektir. Bir sohbet botu konuyu gündeme getirdi. Ayrıca, şirketlerin kullanıcılara sohbet botlarının bazı çocuklar için uygun olmayabileceğini söyler.
Geçen yıl, bir ebeveyn, özel AI chatbotlarının sürekli olarak botlarla sohbet eden gencinin intiharla öldükten sonra “mantıksız derecede tehlikeli” olduğunu iddia ederek Charter.ai’ye karşı yanlış bir ölüm davası açtı. Başka bir dava şirketi gençlere “zararlı materyal” göndermekle suçladı. CHARCE.AI daha sonra ebeveyn kontrolleri üzerinde çalıştığını ve genç kullanıcılar için “hassas veya müstehcen” çıktıyı engelleyecek yeni bir AI modeli geliştirdiğini duyurdu.
“Çocuklarımız, teknoloji şirketlerinin zihinsel sağlıkları pahasına denemeleri için laboratuvar fareleri değil,” dedi Senatör Padilla basın açıklamasında. “Geliştiricilerin bağımlılık yapıcı ve yırtıcı olduklarını bildikleri stratejileri kullanmasını önlemek için chatbot kullanıcıları için sağduyu korumalarına ihtiyacımız var.”
Devletler ve federal hükümet sosyal medya platformlarının güvenliğinde iki katına çıktıkça, AI chatbots yakında milletvekillerinin bir sonraki hedefi olabilir.
