Texas Genel Savcılığı’ndan Meta AI Studio ve Character.AI’ye Soruşturma
Texas Genel Savcısı Ken Paxton, Meta AI Studio ve Character.AI ile ilgili olarak “potansiyel olarak yanıltıcı ticaret uygulamalarına ve kendilerini ruh sağlığı araçları olarak yanıltıcı bir şekilde pazarlamaya” yönelik bir soruşturma başlattı. Bu durum, internet kullanıcıları arasında endişe yaratmaktadır. Paxton, “Dijital çağda, Texas çocuklarını yanıltıcı ve sömürücü teknolojilerden korumak için mücadele etmeye devam etmeliyiz,” ifadelerini kullandı. Yapay zeka platformlarının, özellikle çocuklar gibi savunmasız kullanıcılara, meşru ruh sağlığı hizmetleri alıyormuş gibi hissettirebildiği konusunda uyarıda bulundu.
AI Chatbot’ların Çocuklarla İletişimi
Geçtiğimiz günlerde, Senatör Josh Hawley Meta’yı araştırma kararı aldığını açıkladı. Bu araştırma, Meta’nın yapay zeka sohbet botlarının çocuklarla uygun olmayan bir şekilde etkileşime geçtiği bir rapor sonucunda gündeme geldi. Texas Genel Savcılığı’nın ofisi, Meta ve Character.AI’yi “profesyonel terapötik araçlar olarak kendini tanıtan yapay zeka kişilikleri oluşturmakla” suçladı.
Character.AI, milyonlarca yapay zeka kişiliği sunmaktadır. Kullanıcılar tarafından yaratılan bir bot olan Psychologist, genç kullanıcılar arasında yüksek bir talep görmektedir. Öte yandan, Meta’nın çocuklar için terapi botları sunmadığına dikkat çekilmektedir. Ancak çocukların Meta AI sohbet botunu veya üçüncü taraflarca oluşturulan kişilikleri terapötik amaçlarla kullanmasının önünde bir engel yoktur.
Şirketlerin Yanıtları
Meta’nın sözcüsü Ryan Daniels, “Yapay zekâları net bir şekilde etiketliyoruz ve insanların sınırlamalarını daha iyi anlamalarına yardımcı olmak üzere, geri bildirimlerin yapay zeka tarafından, insanlar yerine üretildiğini belirten bir açıklama ekliyoruz,” şeklinde bir açıklamada bulundu. Ancak, TechCrunch‘ın belirttiğine göre birçok çocuk bu tür açıklamalarla ilgili yeterince bilgi sahibi olmayabilir ya da bu uyarıları görmezden gelebilir. Meta, çocukları korumak için ne tür ek önlemler aldığını açıklamayı reddetmiştir.
Gizlilik Endişeleri
Paxton, AI chatbotlarının gizliliği iddia etmesine rağmen, kullanıcı etkileşimlerinin izlendiği ve hedefli reklamcılık için kullanıldığına dair ciddi endişeler olduğunu belirtti. Meta’nın gizlilik politikası, platformlar arası etkileşimleri toplamakta ve bu bilgileri, “yapay zekaları ve ilgili teknolojileri geliştirmek” amacıyla kullanmaktadır. Ancak, bu bilgilerin üçüncü şahıslarla paylaşılabileceği belirtilmektedir. Character.AI’nın gizlilik politikası da kullanıcıların kimlik bilgileri, demografik bilgiler ve konum bilgileri gibi verilerin kaydedildiğini vurgulamakta ve bu bilgilerin kişiselleştirilmiş hizmetler sunmak amacıyla kullanıldığını ifade etmektedir.
Çocuk Kullanıcılar Üzerindeki Etkiler
Meta ve Character.AI, hizmetlerinin 13 yaş altındaki çocuklar için tasarlanmadığını öne sürse de, bu platformların çocukların dikkatini çektiği bir gerçektir. Meta, 13 yaş altı çocuklar için hesapları denetlemekte başarısızlıkla suçlanmakta ve Character.AI’nın çocuk dostu karakterleri açıkça daha genç kullanıcıları çekmek amacıyla tasarlanmıştır. Character.AI’nın CEO’su Karandeep Anand, altı yaşındaki kızının bu platformun sohbet botlarını kullandığını belirtmiştir.
KOSA ve Çocukların Online Güvenliği
Bu tür veri toplama, hedefli reklamcılık ve algoritmik sömürü, Kids Online Safety Act (KOSA) gibi yasaların karşısında durduğu sorunlardır. KOSA, geçen yıl güçlü iki partili destekle geçiş sürecine girmiştir, ancak teknoloji endüstrisi lobicilerinin baskısıyla bu süreç duraksamıştır. Meta, bu yasanın geniş kapsamlı hükümlerinin kendi iş modeline zarar vereceğini öne sürmüştür.
KOSA, 2025 Mayıs ayında Senato’ya yeniden tanıtılmıştır ve yasaların yürürlüğe girmesi için çalışmalar devam etmektedir. Paxton, iki şirkete de Texas tüketici koruma yasalarını ihlal edip etmediklerini belirlemek amacıyla belgeler, veriler ve tanıklık üretmeleri için hukuki talepler sunmuştur. Bu süreçlerin, özellikle çocukların dijital dünyadaki güvenliğinin sağlanması açısından son derece önemli olduğu unutulmamalıdır.
