ABD’nin 50 eyaletinin tamamında ve 4 bölgede Başsavcılar bu anlaşmayı imzaladı bir mektup Kongre’yi yapay zeka destekli çocuk cinsel istismarı materyallerine (CSAM) karşı harekete geçmeye çağırıyoruz.
Mektupta, “Çocuklara karşı internet suçları halihazırda aktif olarak kovuşturulurken, yapay zekanın istismar için yeni bir sınır oluşturmasından ve bu tür kovuşturmaları daha da zorlaştırmasından endişe duyuyoruz” deniyor.
Aslında yapay zeka, kötü aktörlerin, insanları yanlış senaryolarda gerçekçi bir şekilde tasvir eden derin sahte görüntüler oluşturmasını her zamankinden daha kolay hale getiriyor. Bazen, internetin Papa’nın modaya uygun bir Balenciaga paltosu olduğuna inandırılarak kandırılması gibi, sonuçlar iyi huyludur. Ancak Başsavcı’nın işaret ettiği gibi en kötü durumlarda, bu teknoloji kötüye kullanımı kolaylaştırmak için kullanılabilir.
“Deepfake için kaynak fotoğraftaki çocuklar fiziksel istismara uğrasın ya da uğramasın, gerçek çocukları gösteren cinselleştirilmiş görüntülerin oluşturulması ve yayılması, mağdur çocukların yanı sıra ebeveynlerinin fiziksel, psikolojik ve duygusal sağlıklarını da tehdit ediyor Mektupta şöyle yazıyor.
İmzacılar, Kongre’nin yapay zeka tarafından oluşturulan CSAM risklerini ele alacak çözümleri araştıracak bir komite kurması ve ardından CSAM’e karşı mevcut yasaları yapay zeka tarafından oluşturulan CSAM’i açıkça kapsayacak şekilde genişletmesi için baskı yapıyor.
Rıza dışı, cinsel sömürücü yapay zeka zaten derin sahtekarlıklar yapıyor çevrimiçi çoğalmak, ancak bu materyalin mağdurları için çok az yasal koruma mevcuttur. New York, Kaliforniya, Virginia ve Georgia’da kanunlar cinsel istismar amaçlı yapay zeka deepfake’lerinin yayılmasını yasaklayan ve 2019’da, Teksas siyasi seçimleri etkilemek için yapay zeka deepfake’lerinin kullanımını yasaklayan ilk eyalet oldu. Her ne kadar büyük sosyal platformlar bu içeriği yasaklasa da bu içerik gözden kaçabilir. Mart ayında, “herhangi bir yüzü müstehcen videolarla değiştirdiğini” iddia eden bir uygulama 230’dan fazla reklam yayınladık Facebook, Instagram ve Messenger’da; Meta, NBC News muhabiri Kat Tenbarge’ın bildirimi üzerine reklamları kaldırdı.
Yurtdışında Avrupalı yasa yapıcılar, Yapay Zeka Davranış Kurallarını onaylamak için diğer ülkelerle birlikte çalışmayı hedefliyor ancak müzakereler hâlâ devam ediyor.
