Meta, uygulamalarında gençlerin yapay zeka karakterlerine erişimini toplamda askıya alacağını açıkladı. Şirket, bu kararın, daha iyi bir genç versiyonu geliştirmek amacıyla alındığını belirtti.
Bu gelişme, Meta’nın New Mexico’da çocukların cinsel istismarına karşı yeterli önlemleri almadığı iddialarıyla karşı karşıya kaldığı bir dava öncesinde gerçekleşti. Wired, Meta’nın sosyal medyanın gençlerin ruh sağlığı üzerindeki etkileriyle ilgili delil toplama sürecini kısıtlamaya çalıştığını bildirdi.
Ekim ayında, Meta, yapay zeka karakterleri için ebeveyn kontrolü özelliklerini tanıtmış, ebeveynler ve velilerin, belli konuları izleyebilmeleri ve bazı karakterlere erişimi engelleyebilmeleri için araçlar sunmuştu. Ancak şirket, bu yıl için planlanan bu özellikleri erteleyerek, gençlerin yapay zeka karakterlerine erişimini tamamen kapatma kararı aldı.
Meta, ebeveynlerden gelen geri bildirimlerin, gençlerin yapay zeka karakterleriyle olan etkileşimleri üzerinde daha fazla kontrol ve iç görü taleplerini içerdiğini belirtti.
Şirket, uygulamaları üzerinden gençlerin yapay zeka içeriklerine erişimini sınırlandırmak için önlemler alıyor. Ekim ayında Instagram’da, gençlerin yapay zeka ile etkileşimlerini kişiselleştirmeye yönelik ebeveyn kontrolü özellikleri getirildi. Bu özellikler, PG-13 film derecesinden esinlenerek, gençlerin aşırı şiddet, çıplaklık ve ağır uyuşturucu kullanımı gibi belirli konulara erişimini kısıtladı.
“Önümüzdeki haftalarda, gençler, uygulamalarımızda yapay zeka karakterlerine erişemeyecekler. Bu, bize genç doğum tarihi vermiş olan herkes ve yaş tahmin teknolojimizle genç olduğunu düşündüğümüz yetişkinler için geçerli olacak,” dedi şirket.
Yeni yapay zeka karakterleri, ebeveyn kontrollerinin yanı sıra, yaşa uygun yanıtlar verecek ve eğitim, spor ve hobiler gibi konular etrafında kalacak.
Sosyal medya şirketleri, düzenleyiciler tarafından yoğun bir denetim altında. New Mexico’daki dava dışında, Meta’nın önümüzdeki hafta sosyal medya bağımlılığı ile ilgili suçlamalarla yargılanacağı bir dava bulunuyor. CEO Mark Zuckerberg’in, dava başladığında tanık olarak ifade vermesi bekleniyor.
Ayrıca yapay zeka şirketleri, kendilerine açılan davaların ardından gençlere yönelik deneyimlerini değiştirmek zorunda kaldılar. Ekim ayında, kullanıcıların çeşitli yapay zeka avatarları ile sohbet etmelerini sağlayan Character.AI, 18 yaş altındaki kullanıcılar için açık uçlu sohbetleri yasakladı. Kasım ayında ise, çocuklar için etkileşimli hikayeler geliştireceklerini duyurdu. Son aylarda, OpenAI, ChatGPT için yeni genç güvenlik kuralları ekledi ve içerik kısıtlamalarını uygulamak için bir kullanıcının yaşını tahmin etmeye başladı.
Düzeltme: Bu yazı, yeni yapay zeka karakterlerinin piyasaya sürüldüğünde herkesin erişimine açık olacağını ve ebeveyn kontrollerini içereceğini belirtmek için güncellendi.
