Bu teknolojideki keskin cinsiyet eşitsizliğine ve kadınların siyasete katılımına yönelik gelişen risklere dikkat çeken yeni bir araştırmaya göre, iki düzineden fazla Kongre üyesi cinsel içerikli derin sahtekarlıkların kurbanı oldu ve etkilenenlerin büyük çoğunluğu kadınlardan oluşuyor. diğer sivil katılım biçimleri.
Amerikan Güneş Işığı Projesi (ASP)Dezenformasyonu araştıran ve demokrasiyi teşvik eden politikaları savunan bir düşünce kuruluşu, Çarşamba günü, yakın zamanda deepfake’te bulunan 26 Kongre üyesini (25 kadın ve bir erkek) tasvir eden 35.000’den fazla rıza dışı mahrem görüntüden (NCII) bahsedildiğini tespit eden bulguları yayınladı. web siteleri. Araştırmacılar bulgularını etkilenen Kongre üyeleriyle paylaştıkça görüntülerin çoğu hızla kaldırıldı.
The American Sunlight’ı kuran çevrimiçi dezenformasyon ve taciz uzmanı Nina Jankowicz, “Bu yeni ortamı ve internetin orantısız bir şekilde kadınları ve dışlanmış toplulukları hedef alan bu kadar çok zarara yol açtığı gerçeğini hesaba katmamız gerekiyor” dedi. Proje ve çalışmanın yazarıdır.
Halk arasında deepfake porno olarak da bilinen rıza dışı mahrem görüntüler savunucular ilkini tercih etse deüretken yapay zeka aracılığıyla veya yetişkin sanatçıların medyalarına vesikalık fotoğrafların yerleştirilmesi. Şu anda oluşumunu ve yayılmasını kısıtlamaya yönelik sınırlı bir politika bulunmaktadır.
ASP, türünün ilk örneği olan bulguları yalnızca The 19th ile paylaştı. Grup, kısmen 118. Kongre üyelerini 11 tanınmış deepfake sitesinde ad ve soyadına, kısaltmalara veya takma adlara göre bulmak için özel bir arama motoru geliştirerek veri topladı. Genç üyelerin mağdur olma olasılıkları daha yüksek olmasına rağmen, ne parti üyeliği ne de coğrafi konum istismarın hedefi olma olasılığı üzerinde bir etkiye sahip değildi. En büyük faktör cinsiyetti; Kongre’deki kadın üyelerin hedef alınma olasılığı erkeklerden 70 kat daha fazlaydı.
ASP, aramaları teşvik etmemek için görüntülerde yer alan milletvekillerinin isimlerini açıklamadı. Etkilenen herkesin ofisleriyle iletişime geçerek onları uyardılar ve çevrimiçi zararlar ve zihinsel sağlık desteği konusunda kaynaklar sundular. Araştırmanın yazarları, hemen ardından üyelerin çoğunu hedef alan görsellerin sitelerden tamamen veya neredeyse tamamen kaldırıldığını belirtiyor; bu, kendilerinin açıklayamadığı bir gerçek. Araştırmacılar, bu tür kaldırma işlemlerinin materyalin yeniden paylaşılmasını veya yüklenmesini engellemediğini belirtti. Milletvekillerinin dahil olduğu bazı vakalarda, içeriğin büyük ölçüde veya tamamen kaldırılmasına rağmen arama sonucu sayfaları Google’da dizine eklenmiş durumda kaldı.
“Kaldırılma tesadüfi olabilir. Bu içeriğin kaldırılmasına tam olarak neyin yol açtığına bakılmaksızın (ister ‘durdurma ve vazgeçme’ mektupları, ister telif hakkı ihlali iddiaları veya derin sahte suistimal barındıran sitelerle diğer temaslar olsun), büyük bir ayrıcalık eşitsizliğini vurguluyor,” araştırmaya göre. “Kongre Üyelerine sağlanan kaynaklara sahip olmayan insanların, özellikle de kadınların, kendileri bir yayından kaldırma talebi başlatmaları halinde, yapay zeka tarafından üretilen NCII’nin yaratıcıları ve dağıtıcılarından bu hızlı yanıtı almaları pek mümkün olmayacaktır.”
Araştırmanın ilk bulgularına göre, şu anda Kongre’de görev yapan tüm kadınların yaklaşık yüzde 16’sı – ya da yaklaşık 6 kongre üyesinden 1’i – yapay zeka tarafından üretilen, rızaya dayalı olmayan mahrem görüntülerin kurbanı.
Jankowicz çevrimiçi taciz ve tehditlerin hedefi oldu Dezenformasyonu ortadan kaldırmaya yönelik yurtiçi ve uluslararası çalışmaları nedeniyle. Kendisi aynı zamanda derin sahte istismarın kurbanı olduğundan da kamuoyuna bahsetti; bu gerçeği 2023’teki bir Google Alert aracılığıyla öğrendi.
“Rızanız olmadan bu riskli, mahrem durumlarda görünmeniz sağlanabilir ve bu videolar, orijinal postere karşı bir telif hakkı iddiası peşinde olduğunu söyleseniz bile – benim durumumda olduğu gibi – sizin izniniz olmadan internette hızla yayılıyorlar. Deepfake pornoyu güçlendiren veya yaratan insanlar için kontrol ve herhangi bir sonuç doğurmayacaktır” dedi. “Bu, kamuoyunun gözü önünde olan, kamusal söyleme katılan herkes için, özellikle de kadınlar ve beyaz olmayan kadınlar için bir risk olmaya devam ediyor.”
İmaj temelli cinsel istismar, çocuklar da dahil olmak üzere siyasetle ilgisi olmayan sıradan insanları da içeren mağdurlar üzerinde yıkıcı ruh sağlığı etkilerine sahip olabilir. Geçtiğimiz yıl, aşağıdaki gibi eyaletlerde liseli kızların imaja dayalı cinsel istismar için hedef alındığına dair raporlar vardı. Kaliforniya, New Jersey Ve Pensilvanya. Okul yetkililerinin farklı derecelerde tepkileri oldu, ancak FBI da yeni bir uyarı yayınladı küçüklerin bu tür görüntülerini paylaşmanın yasa dışı olduğunu.
Deepfake’lerin toplum üzerindeki tam etkisi hâlâ mercek altına alınıyor, ancak araştırma Zaten 18 ila 29 yaşları arasındaki kadınların yüzde 41’inin çevrimiçi tacizden kaçınmak için otosansür uyguladığını gösteriyor.
Araştırma Direktörü Sophie Maddocks, “Nüfusun neredeyse yarısının karşılaşabilecekleri tacizden korktukları için kendilerini susturması durumunda, bu demokrasi ve ifade özgürlüğüne yönelik son derece güçlü bir tehdittir” dedi. Risk Altındaki Medya Merkezi Pensilvanya Üniversitesi’nde.
Yapay zeka tarafından oluşturulan rıza dışı mahrem görüntüleri üreten ve dağıtan kişilere cezai veya hukuki cezalar öngören bir federal yasa yoktur. Son yıllarda yaklaşık bir düzine eyalet yasa çıkardıancak çoğu cezai cezaları değil, sivil cezaları içeriyor.
Yapay zeka tarafından oluşturulan, rızaya dayalı olmayan mahrem görüntüler de açılıyor ulusal güvenliğe yönelik tehditler şantaj ve jeopolitik tavizler için koşullar yaratarak. Bu durum, görüntülerin doğrudan hedefi olup olmadıklarına bakılmaksızın politika yapıcılar üzerinde dalgalanma etkileri yaratabilir.
Jankowicz, “Buradaki umudum, üyelerin bunun yalnızca Amerikalı kadınları değil aynı zamanda onları da etkilediğini fark ettiklerinde harekete geçmeye itilmeleridir” dedi. “Bu kendi meslektaşlarını etkiliyor. Ve bunlar sırf kamuoyunun gözü önünde oldukları için oluyor.”
İmaj temelli cinsel istismar, aday olan kadınlar için benzersiz bir risktir. Susanna Gibson, Cumhuriyetçi bir ajanın Virginia Demokratı ve kocasının yer aldığı cinsel içerikli canlı yayınların rıza dışı kayıtlarını The Washington Post ile paylaşmasının ardından rekabetçi yasama yarışını kıl payı kaybetti. Gibson, kaybından sonraki aylarda The 19th’tan duyduğunu söyledi. genç kadınların göreve aday olma cesareti kırılıyor mahrem görüntülerin onları taciz etmek için kullanılmasından korktukları için. Gibson o zamandan beri imaja dayalı cinsel istismarla mücadeleye adanmış kar amacı gütmeyen bir kuruluş kurdu ve eşlik eden siyasi eylem komitesi mahremiyet ihlallerine karşı kadın adaylara destek olmak.
Maddocks, kamuoyunda açıkça konuşan kadınların dijital cinsel şiddete maruz kalma olasılığının nasıl daha yüksek olduğunu araştırdı.
“Çok daha uzun süredir var olan ‘kadınlar görülmeli, duyulmamalı’ kalıbı beni düşündürüyor Mary Beard’ın yazıları ve araştırmaları Kadınlığın topluluk önünde ifadeye aykırı olduğu fikrine dayanıyor. Yani kadınlar topluluk önünde konuştuğunda neredeyse ‘Tamam’ gibi bir şey oluyor. Onları utandırmanın zamanı geldi. Onları soymanın zamanı geldi. Onları eve geri döndürmenin zamanı geldi. Onları utandırıp susturmanın zamanı geldi.’ Ve bu susturma ve bu utandırıcı motivasyon… Bu zararın kongre kadınlarıyla ilgili olarak nasıl ortaya çıktığını anlamak için bunu anlamamız gerekiyor.”
ASP, Kongre’yi federal yasayı geçirmeye teşvik ediyor. 2024 tarihli Açık Sahte Görüntüleri ve Rıza Dışı Düzenlemeleri Engelleme YasasıDEFIANCE Yasası olarak da bilinen yasa, insanların bu tür görüntüleri oluşturan, paylaşan veya alan herkese dava açmasına olanak tanıyacak. Aşağı Al Yasası Bu tür faaliyetler için cezai sorumluluk içerecek ve teknoloji şirketlerinin deepfake’leri ortadan kaldırmasını gerektirecektir. Her iki yasa tasarısı da iki partinin desteğiyle Senato’dan geçti ancak Temsilciler Meclisi’nde teknoloji politikasının önündeki tipik engeller olan ifade özgürlüğü ve zarar tanımları konusundaki endişeleri gidermek zorunda.
Jankowicz, “Kongre’nin bu oturumun bu yasa tasarılarından en az birini geçirmeden geçmesine izin vermesi görevini ihmal etmek olur” dedi ve şöyle devam etti: “Bu, yapay zekanın zararının şu anda gerçek Amerikalılar tarafından hissedilmesinin yollarından biri. Bu geleceğe yönelik bir zarar değil. Bu hayal etmemiz gereken bir şey değil.”
Kongre eyleminin yokluğunda Beyaz Saray, özel sektörle işbirliği yaptı imaja dayalı cinsel istismarı engellemek için yaratıcı çözümler tasarlamak. Ancak Eleştirmenler iyimser değil Platformlarının neden olduğu zarar geçmişi göz önüne alındığında, Big Tech’in kendi kendini düzenleme yeteneği hakkında.
Jankowicz, “Faillerin bu içeriği oluşturması çok kolay ve sinyal yalnızca hedef alınan kadına yönelik değil” dedi. “Her yerdeki kadınlara sesleniyorum, ‘Eğer bu adımı atarsanız, sesinizi yükseltirseniz, bu, uğraşmanız gerekebilecek bir sonuçtur.’”
İmaj temelli cinsel istismarın kurbanı olduysanız, Siber Sivil Haklar Girişimi yasal kaynakların bir listesini tutar.
Bu makale ilk olarak The Markup’ta yayınlandı kapsamında yeniden yayımlandı. Creative Commons Atıf-Ticari Olmayan-Türev Yok lisans.