Meta’nın AI Chatbotlarının Eğitimi ve Gençlerin Güvenliği
Meta, yapay zeka chatbotlarını eğitme yöntemlerini değiştirdiğini açıkladı. Şirket sözcüsü Stephanie Otway, bu değişimin, gençlerin güvenliğini önceliklendirmek amacıyla yapıldığını belirtti. Bu karar, şirketin hiçbir AI koruma mekanizması olmamasıyla ilgili bir soruşturma raporunun ardından alınmıştır.
Gençlerle İletişimde Yeni Yaklaşımlar
Meta, artık chatbotların ergen kullanıcılarla öz-kıyım, intihar, bozuk yeme davranışları gibi hassas konularda iletişime girmeyeceğini duyurdu. Önceden, bu konular hakkında “uygun” olduğuna inandıkları bir şekilde sohbet edebiliyorlardı. Ancak Meta, bu yaklaşımın hatalı olduğunu kabul ediyor.
Sözcü Otway, “Topluluğumuz büyüdükçe ve teknoloji geliştikçe, gençlerin bu araçlarla nasıl etkileşimde bulunabileceğini sürekli öğreniyoruz ve korumalarımızı buna göre güçlendiriyoruz” ifadesini kullandı. Şirket, sistemlerini rafine ederken daha fazla güvence mekanizması eklemekte kararlıdır. Bu önlemler arasında, AI’ların gençlerle bu hassas konular üzerine sohbet etmeye değil, uzman kaynaklara yönlendirmeye odaklanması yer almaktadır.
AI Karakterlerine Erişimin Kısıtlanması
Meta, aynı zamanda bazı AI karakterlerine ergenlerin erişimini de sınırlayacaktır. Instagram ve Facebook’ta kullanıcılar tarafından oluşturulan AI karakterleri, bazıları cinsel içerik barındıran karakterlerdir. Örneğin, “Üvey Anne” ve “Rus Kızı” gibi karakterler, gençlerin erişemeyeceği türler arasında yer alacaktır. Bunun yerine, genç kullanıcıların eğitimi ve yaratıcılığı destekleyen AI karakterlerine erişebileceği ifade edilmektedir.
İç Politikalardaki Çelişkiler
Şirketin duyurduğu politikalar, Reuters tarafından yapılan bir soruşturmanın ardından geldi. Bu soruşturma, Meta’nın iç politika belgelerinin, chatbotların reşit olmayan kullanıcılarla cinsel sohbetlere girmesine izin verdiğini ortaya koymuştur. Belgede yer alan bir ifade, “Gençliğin güzelliği bir sanat eseridir” gibi cinsellik imasında bulunan cümleler içermekteydi.
Bu durum, AI araçlarının, kamuya mal olmuş şahısların şiddet veya cinsellik içerikli görüntülerine yanıt verme şeklinde yönlendirmeler almasının nasıl bir hayat bulduğunu da ortaya koymaktadır. Şirket, bu belgenin kapsamlı politikalarıyla tutarsız olduğunu ve artık değiştirildiğini belirtmektedir. Ancak bu rapor, potansiyel çocuk güvenliği riskleri konusunda güçlü bir tartışma başlatmıştır.
Yasal Önlemler ve Toplumsal Tepkiler
Rapordan kısa bir süre sonra, Senatör Josh Hawley, Meta’nın AI politikalarına yönelik resmi bir soruşturma başlattı. Ayrıca, 44 eyaletin başsavcısı, Meta dahil, çeşitli AI şirketlerine bir mektup yazarak çocuk güvenliği konusunun önemini vurguladı. “Bu durum, çocukların duygusal iyilik halleri için açıkça kaygı vericidir” ifadesi mektubun dikkat çeken bölümlerindendir.
Meta’nın Geleceği ve Genç Kullanıcılar
Meta, AI chatbot kullanıcılarının kaçının reşit olmadığını belirtmekten kaçındı. Ayrıca, bu kararların ardından AI kullanıcı tabanının düşmesini bekleyip beklemedikleri hakkında herhangi bir bilgi vermedi. Ancak, yaptığı açıklamalar, şirketin güvenliği artırma konusundaki kararlılığını ve gençlerin sağlıklı bir çevrimiçi deneyim yaşamaları için atıldığı adımları göstermektedir.
Yapılan değişiklikler, şirketin çocuk güvenliği konusundaki ciddiyetini gözler önüne sererken, gençlerin karşılaştığı riskleri azaltma amacı taşımaktadır. Fakat yine de, özellikle sosyal medya gibi önemli platformlar üzerindeki bu tür uzman gözetimleri ve güvenlik önlemleri, gelecekte daha çok tartışılacak bir konu olarak kalmaya devam edecektir. Uygulanan politikaların, diğer teknoloji şirketlerine de örnek teşkil etmesi bekleniyor.
Sonuç olarak, Meta’nın attığı bu adımlar, sadece kendi platformları için değil, tüm teknoloji endüstrisi için önemli bir gelişim göstergesi olmuştur. Gençlerin güvenliğini sağlamak ve sağlıklı bir çevrimiçi deneyim sunmak, artık her teknoloji şirketinin öncelikli hedeflerinden biri haline gelmiştir.
