Üretken AI araçlarının ilerlemesi internet için yeni bir sorun yarattı: gerçek insanlara benzeyen sentetik çıplak resimlerin yaygınlaşması. Microsoft, Perşembe günü intikam pornosu mağdurlarına Bing arama motorunun bu resimleri döndürmesini engellemek için bir araç sağlamak için büyük bir adım attı.
Microsoft, bir ortaklık duyurdu NCII’yi durdurun, intikam pornosu mağdurlarının cihazlarında bu açık görüntülerin, gerçek olsun ya da olmasın, dijital parmak izlerini oluşturmalarına izin veren bir organizasyon. StopNCII’nin ortakları daha sonra bu dijital parmak izini veya teknik olarak bilindiği adıyla “hash”i kullanarak görüntüyü platformlarından temizliyor. Microsoft’un Bing’i, StopNCII ile ortaklık kurarak Facebook, Instagram, Threads, TikTok, Snapchat, Reddit, PornHub ve OnlyFans’a katılıyor ve intikam pornosunun yayılmasını durdurmak için dijital parmak izlerini kullanıyor.
Birinde blog yazısıMicrosoft, Ağustos sonuna kadar StopNCII’nin veritabanıyla pilot olarak Bing’in resim araması aracılığıyla döndürülen 268.000 açık resimle ilgili işlem yaptığını söylüyor. Microsoft daha önce doğrudan raporlama aracı sunuyordu ancak şirket bunun yeterli olmadığını söylüyor.
Microsoft, Perşembe günü yayınladığı blog yazısında, “Kullanıcı raporlamasının tek başına etkili bir şekilde ölçeklenemeyeceği veya arama yoluyla görüntülere erişim riskini yeterince ele alamayacağı yönündeki mağdurlardan, uzmanlardan ve diğer paydaşlardan endişeler duyduk” dedi.
Çok daha popüler bir arama motoru olan Google’da bu sorunun ne kadar daha kötü olabileceğini hayal edebilirsiniz.
Google Arama, arama sonuçlarından müstehcen görselleri bildirmek ve kaldırmak için kendi araçlarını sunuyor ancak StopNCII ile ortaklık kurmaması nedeniyle eski çalışanlar ve mağdurlar tarafından eleştiriliyor. Kablolu soruşturmaWired’ın haberine göre, 2020’den bu yana Güney Kore’deki Google kullanıcıları istenmeyen cinsel içeriklere ilişkin 170.000 arama ve YouTube bağlantısı bildirdi.
Yapay zeka deepfake çıplaklık sorunu zaten yaygın. StopNCII’nin araçları yalnızca 18 yaş üstü kişiler için çalışıyor, ancak “soyunma” siteleri zaten lise öğrencileri için sorun yaratmak ülke çapında. Ne yazık ki, Amerika Birleşik Devletleri’nin herhangi birini sorumlu tutacak bir AI deepfake porno yasası yok, bu yüzden ülke sorunu ele almak için eyalet ve yerel yasaların bir patchwork yaklaşımına güveniyor.
San Francisco savcıları Ağustos ayında en “soyunma” sitelerinden 16’sını kaldırmak için dava açtıklarını duyurdu. Bir deepfake porno yasaları için izleyici Wired tarafından oluşturulan bir araştırmaya göre, 23 Amerikan eyaleti, rızaya dayanmayan deepfake’leri engellemek için yasalar çıkarırken, dokuz eyalet de bu yasaları reddetti.