Hugging Face ve Deepfake Nudes Sorunu
Derinliklerdeki Tehdit: Nonconsensual Deepfake’ler
Son zamanlarda, zararlı cinsel deepfake’lere karşı yapılan mücadelenin giderek daha fazla dikkat çektiği görülmektedir. ABD’deki hukuk devleti, deepfake barındırma sitelerini kapatırken, Avrupa Birliği ve Birleşik Krallık da “nudify” uygulamalarının yasaklanması için adımlar atmaktadır. Ancak, teknoloji devleri hâlâ izinsiz bir şekilde insanları dijital olarak soyundurabilen yazılımlara büyük yatırımlar yapmaya devam etmektedir.
Hugging Face İle İlgili Sorunlar
Açık kaynak yapay zeka platformu Hugging Face, son yayınlanan bir rapora göre, izinsiz deepfake’ler açısından büyük bir sorun yaşamaktadır. AI Forensics adlı Avrupa merkezli sivil toplum kuruluşunun araştırmalarına göre, Hugging Face’teki en popüler dokuz görüntü düzenleme “Space”inden yedisi, kolaylıkla bir kadının giyinik bir görüntüsünü çıplak bir görüntüye dönüştürebilmektedir.
Araştırmanın Detayları
AI Forensics araştırmacıları, Hugging Face’teki görüntü düzenleme alanlarına yönelik kendi testlerini gerçekleştirmiştir. Bu testlerde, 1.000’den fazla istem ve görüntü toplanmış; bunların yüzde 73’ü cinsel içerikli çıkmıştır. Özellikle, gelen cinsel içerikli taleplerin yüzde 83’ü, gönderilen fotoğraflardaki kişilerin giyinik halini çıplak hale getirmek amacıyla yapılmıştır. Bu isteklerin yüzde 95’i kadınlara yöneliktir.
Paul Bouchaud, AI Forensics’ın baş araştırmacılarından biri olarak, “Test edilen Space’lerin çoğu, izinsiz samimi görüntüler üretmek için kullanılabiliyor ve kullanıcılar gerçekten de bu amaçlarla kullanıyor,” demektedir. Bu durum, yalnızca bir tehdit değil, gerçek bir sorundur.
Hugging Face’in Tutumu
Hugging Face, içerik moderasyonu mekanizmaları ve güvenlik uygulamaları hakkında gelen sorulara yanıt vermemiştir. Şirketin, çocuk istismarı materyallerini ve “açık rıza olmadan” oluşturulan veya zorbalık amacıyla kullanılan cinsel deepfake’leri yasaklayan içerik politikaları bulunmaktadır. Ancak, bazı “nudify” hizmetlerini teşvik eden sayfaların WIRED ile iletişime geçildiği sonrası silinmesi, bu iki durumun ilişkili olup olmadığı konusunda belirsizlik yaratmaktadır.
Riskli Uygulamalar ve Etkileri
Son birkaç yılda jeneratif yapay zeka sistemlerinin yetenekleri arttıkça, bu sistemlerin büyük bir tehlike olarak karşımıza çıkan niggardly ve sömürücü uygulamaları da yaygınlaşmıştır. Bu uygulamalar, birçok insanın başkalarının görüntülerini düzenleyerek giysilerini çıkarmasına olanak tanımakta ve sonuçları genellikle kadınları şantaj, taciz ve zarar vermek için kullanılmaktadır.
Başka Bir Bakış: Güvenlik Mekanizmalarının Eksikliği
Birçok büyük jeneratif yapay zeka modeli, oluşturulan çıplaklık tarzı görüntüleri engellemeye çalışan güvenlik mekanizmalarına sahipken, AI Forensics tarafından incelenen Hugging Face modellerinin böyle mekanizmaları olmadığı görülmüştür. Araştırmacılar, hiçbir güvenlik önlemini aşmaya çalışmadan basit bir istem kullanarak testlerini gerçekleştirmiştir.
Bouchaud, “Platform düzeyinde hiç güvenlik önlemi uygulanmıyor. Sadece geliştiriciler, istediklerinde bunu uygulayabiliyorlar ve çoğu bunu yapmıyor,” şeklinde açıklamalarda bulunmuştur. Hugging Face, gelen ve giden içerik üzerinde kolayca filtreleme yapabilme kapasitesine sahip konumdadır.
Sonuç
Hugging Face gibi platformlar, derinlikli sorunlar ve risklerin ortaya çıkmasına sebep olabilecek bir açık kaynak yapı sunmaktadır. Cinsel istismar ve izinsiz deepfake’ler gibi sorunlar, toplumun en savunmasız kesimlerine yönelik tehditler barındırmaktadır. Yapay zeka alanında geliştirilen ürünler kullanıcılar tarafından kötü niyetle kullanılmadan önce, önleyici tedbirlerin alınması gereklidir. Bu tür sorunların üstesinden gelmek için tüm paydaşların sorumluluk alması ve etkili çözüm önerileri sunması elzemdir.
Teknoloji
US-1
