Google’un Gemini AI Ürünleri Üzerine Risk Değerlendirmesi
Common Sense Media, çocuk güvenliği odaklı bir kar amacı gütmeyen kuruluş olarak, Google‘un Gemini AI ürünleriyle ilgili risk değerlendirmesini açıkladı. Cuma günü yayınlanan raporda, Google’ın yapay zekasının çocuklara kendisinin bir bilgisayar olduğunu açıkça söylediği, bunun ise duygusal olarak savunmasız bireylerde delüzyonel düşünce ve psikoz gibi sorunlara yol açabileceği ifade edildi. Ancak, rapor birkaç alanda iyileştirmeler için hala fırsatlar bulunduğunu da vurguladı.
Gemini’nin “Under 13” ve “Teen Experience” Kategorileri
Rapor, Gemini’nin “Under 13” ve “Teen Experience” kategorilerinin, esasen yetişkin versiyonlarıyla aynı yapılandırmaya sahip olduğunu ortaya koydu. Bu iki kategoriye yalnızca bazı ek güvenlik önlemleri eklenmişti. Common Sense Media, AI ürünlerinin çocuklar için gerçekten daha güvenli olabilmesi için, temelden itibaren çocuk güvenliği düşünülerek inşa edilmesi gerektiğine inanıyor.
Güvenli Olmayan İçeriklerin Paylaşımı
Gemini’nin hala çocuklarla birlikte “uygunsuz ve güvensiz” içerikler paylaşabileceği belirtilmiştir. Bu içerikler, çocukların hazır olup olmadıkları bilgilere yönelik, cinsellik, uyuşturucu, alkol ve diğer güvensiz ruh sağlığına dair tavsiyeleri içermektedir. Bu durum, özellikle son aylarda AI’nin, bazı ergen intiharlarında rol oynadığına dair raporlarla birlikte, ebeveynler için kaygı verici bir durum arz etmektedir. OpenAI, 16 yaşında bir çocuğun, ChatGPT ile birkaç ay boyunca görüşerek intihar etmesi sonucunda bir hileli ölüm davası ile karşı karşıya kalmıştır.
Apple’ın Gemini ile İşbirliği İhtimali
Bu analiz, Apple’ın Gemini’yi, gelecek yıl çıkacak olan AI destekli Siri için kullanma olasılıklarına dair sızıntılarla aynı zamana denk geldi. Eğer Apple, güvenlik endişelerini hafifletmezse, bu durum daha fazla ergenin risk altına girmesine yol açabilir.
Çocuklar İçin Farklı Yaklaşımlar Gerekli
Common Sense ayrıca, Gemini’nin çocuklar ve gençler için sunduğu içeriklerin daha genç kullanıcıların ihtiyaçlarına göre farklı bir yönlendirme gerektirdiğini belirtti. Hem “Under 13” hem de “Teen Experience” kategorileri, eklenen güvenlik filtrelerine rağmen “Yüksek Risk” olarak değerlendirilmiştir.
Robbie Torney, Common Sense Media’nın AI Programları Kıdemli Direktörü, bu değerlendirmenin ardından, “Gemini bazı temel unsurları doğru yapıyor, ancak detaylarda takılıyor,” diye ifade etti. “Çocuklar için bir AI platformu, onların gelişim aşamalarına uyum sağlamalıdır. AI sistemleri, çocukların ihtiyaçları ve gelişim süreçleri düşünülerek tasarlanmalıdır,” şeklinde değerlendirmelerde bulundu.
Google’ın Cevabı
Google, bu değerlendirmeye itiraz ederken, kendisinin güvenlik özelliklerinin geliştirilmekte olduğunu belirtti. TechCrunch ile yaptığı açıklamada, 18 yaş altı kullanıcılar için zararlı içeriklerin engellenmesi adına özel politikalar ve güvenlik önlemleri bulunduğunu vurguladı. Bunun yanı sıra, dışarıdan uzmanlarla istişarelerde bulunduklarını belirtti. Ancak, bazı Gemini yanıtlarının beklenildiği gibi çalışmadığını kabul etti ve bu sorunları gidermek üzere ek güvenlik önlemleri aldığını açıkladı.
Firma, Common Sense’in raporunda yer alan özelliklerin, 18 yaş altında kullanıcılara sunulmadığının altını çizerken, bu bağlamda yapılan testlerin detaylarını bilmediği için kesin bir yargı veremediğini de ifade etti.
Diğer AI Servislerinin Değerlendirilmesi
Common Sense Media daha önce de OpenAI, Perplexity, Claude, ve Meta AI gibi diğer AI hizmetlerinin değerlendirmelerini gerçekleştirmiştir. Bu değerlendirmelerde Meta AI ve Character.AI “kabul edilemez” olarak nitelendirilirken, Perplexity yüksek risk, ChatGPT ise “orta” risk olarak sınıflandırılmıştır. Claude ise 18 yaş ve üzeri kullanıcılara yönelik tasarlandığı için minimal risk olarak görülmüştür.
Sonuç olarak, çocuklar için tasarlanan AI sistemlerinin, onların gelişimsel ihtiyaçlarını ve güvenlik kaygılarını hafifletecek şekilde yenilikler içermesi ve bu hedefe ulaşırken, etkili bir içerik sunumu sağlaması gerekmektedir.
