OpenAI ve Çocuk İstismarı Raporları: 2025’te Keskin Artış
2025 yılının ilk yarısında, OpenAI, önceki yıla göre çocuk istismarı olay raporlarını 80 kat arttırarak, National Center for Missing & Exploited Children (NCMEC) kurumuna gönderdi. Bu durum, OpenAI’nın çocuk istismarı ile mücadele konusundaki kararlılığını ve gelişen teknolojilerin bu alandaki etkisini gözler önüne seriyor.
NCMEC ve Çocuk İstismarı Raporlama Süreci
NCMEC, çocuk cinsel istismarı materyali (CSAM) ve diğer çocuk istismarı türleri hakkında raporların toplanmasına dair yasalarla yetkilendirilmiş bir kuruluş. Şirketler, potansiyel çocuk istismarı vakalarını CyberTipline’a rapor etmekle yükümlüdür. OpenAI gibi şirketler, raporları gönderdikten sonra NCMEC bu raporları inceler ve uygun kolluk kuvvetlerine iletmekle sorumludur. Bu süreç, çocuk istismarının önlenmesi ve mağdurların korunması açısından kritik öneme sahiptir.
Rapor Sayılarındaki Artış ve Anlamı
OpenAI’nın 2025 yılının ilk yarısında gönderdiği rapor sayısı, yaklaşık olarak gönderdiği içerik sayısına eşdeğerdi; 75,027 rapor, 74,559 içerik ile ilişkiliydi. 2024 yılının ilk yarısında ise, 947 rapor 3,252 içerikle ilgiliydi. Bu çarpıcı artış, yalnızca bir artış değil, aynı zamanda OpenAI’nın çocuk istismarı ile mücadele konusundaki kararlılığını da gösteriyor.
Moderasyon ve Raporlama Kriterleri
Rapor sayılarındaki artış, bazı durumlarda platformların otomatik moderasyon sistemlerindeki değişikliklerden veya rapor oluşturma kriterlerinden kaynaklanabilir. Bu nedenle, artan rapor sayıları her zaman daha fazla kötü niyetli faaliyet olduğu anlamına gelmez. Aynı içerik için birden fazla rapor yapılabilir ve bir rapor birçok içerik hakkında olabilir.
Gaby Raila, OpenAI sözcüsü, şirketin 2024 yılının sonlarına doğru raporları inceleme ve harekete geçirme yeteneklerini artıramak için yatırım yaptığını belirtti. Bu artış, kullanıcı sayısındaki büyüme ile de ilişkilidir.
Teknolojinin Rolü ve Gelecek
OpenAI, kullanıcıların dosya —özellikle görüntü— yüklemesine izin veren yeni ürünleri tanıttı ve bu durum, rapor sayısını etkiledi. Ayrıca, OpenAI’nın ChatGPT uygulaması gibi ürünler, içerik oluşturma ve paylaşım konusunda geniş bir kitleye hitap etmekte. Bu da istismara yönelik içeriklerin de artmasına neden olabilir.
NCMEC’in genel verileri, yapılandırılmış yapay zeka kullanımının rapor sayılarında %1,325 oranında bir artış olduğunu göstermektedir. Ancak, OpenAI’nın video oluşturma uygulaması Sora’nın Eylül ayında çıkış yapması, bu raporlamaların kapsamı dışında kalmıştır.
Sonuç
OpenAI’nın çocuk istismarı raporlarındaki keskin artış, yalnızca artan kullanıcı sayısıyla değil, aynı zamanda teknolojinin bu sorunları görünür kılması ile de ilişkilidir. NCMEC’in ve diğer kuruluşların yaptığı çalışmalar, çocuk istismarının önlenmesi için oldukça önemlidir. Yapay zekanın bu alandaki rolü, hem fırsatlar hem de zorluklar sunmaya devam edecektir. Teknolojinin gelişimi, çocukların güvenliğini artırmak için kritik bir araç olabilir, ancak aynı zamanda sorumluluğun da artmasını gerektirir.
Teknoloji
US-1
