Sora 2 ile Yapılan Rahatsız Edici Videolar: Çocuklara Yönelik Tehditler
Son günlerde Sora 2 adlı yapay zeka video üretim aracının kullanımı, rahatsız edici içerikler üretmek için yaygınlaşmış durumda. Özellikle, birkaç gün önce TikTok’ta @fujitiva48 isimli bir hesap üzerinden paylaşılan bir video dikkat çekti. Video, bir reklam parodisi gibi görünse de, izleyicilerinin tepkisini çekti. “Bu yeni çocuk oyuncağı hakkında ne düşünüyorsunuz?” diye soran hesap, ciddi bir tartışmanın fitilini ateşledi.
Yapay Zeka ile Üretilen İçerikler
Sora 2, OpenAI’nin en yeni video üretim aracı olarak 30 Eylül 2023’te tanıtıldı. Model, oldukça gerçekçi çocuk görüntüleri üretebiliyor. Ancak, bu yetenek kötü niyetli kullanıcılar tarafından kötüye kullanılıyor. Videonun içeriğinde, “Vibro Rose” adı verilen ve seks oyuncağını andıran bir pen olan bir oyuncak gösteriliyor. Bu tür içerikler, küresel düzeyde bir endişe yaratıyor; zira birçok insan, gerçek çocuklar üzerinde olumsuz etkileri olacak içeriklerin üretilip yayımlanmasından endişe ediyor.
yasalar ve Yasal Boşluklar
Yapay zeka ile üretilen çocuk cinsel istismar malzemeleri (CSAM) ile ilgili yasal düzenlemeler büyük ölçüde belirsizliğini koruyor. 2025 itibarıyla İngiltere’de, yapay zeka tarafından üretilen cinsel içerik raporları, bir yıl içinde iki katına çıktı. Öyle ki bu içeriklerin büyük bir kısmı, penetratif cinsel eylem veya hayvanlarla cinsel ilişki gibi en ciddi kategorilerde yer alıyor. Dünya genelinde yasal düzenlemelerin yetersizliği, çocukların çevrim içi ortamda maruz kalabileceği tehditleri artırıyor.
Çocukların Maruz Kaldığı Tehditler
İngiltere’deki Internet Watch Foundation’dan alınan verilere göre, yapay zeka, özellikle kız çocuklarının görüntüleri üzerinden cinsel içerikler üretmek için kötüye kullanılıyor. Kerry Smith, kuruluşun CEO’su, bu durumun çevrim içi ortamda kız çocuklarının hedef alınması açısından yeni bir tehdit oluşturduğunu vurguluyor.
Global Tepkiler ve Yeni Düzenlemeler
Bu tür rahatsız edici içeriklerin artması, İngiltere’nin ceza yasalarında değişiklikler yapmasına yol açtı. Yeni düzenleme ile, “yetkilendirilmiş testçiler”, yapay zeka araçlarının cinsel içerik üretemeyecek şekilde güvenli olup olmadığını denetlemek için kontrol yapılacak. ABD’de de birçok eyalet, yapay zeka ile üretilen cinsel istismar içeriklerine karşı yasalar çıkardı. Bu yasalar, AI araçlarının güvenli bir şekilde kullanılmasını sağlamayı amaçlıyor.
Sonuç
Sora 2 gibi teknolojilerin, eğlenceli ve yaratıcı içerikler üretme potansiyeline sahip olmasına rağmen, kötüye kullanım riski ve yasal belirsizlikler, çocukların güvenliği açısından büyük bir tehdit oluşturmaktadır. Toplum olarak, bu tür içeriklere karşı duyarlı olmalı ve yasal düzenlemelerin güçlendirilmesi için çağrıda bulunmalıyız. Yapay zekanın sunduğu bu yeni dünyada, etik ve güvenlik her zamankinden daha önemli hale geliyor.
Teknoloji
US-1
