Taylor Swift’in rıza dışı deepfake pornosu bu hafta X’te viral oldu ve bir gönderisi 100’den fazla kişi topladı 45 milyon izlenme, Kaldırılmadan önce 24.000 yeniden paylaşım ve yüzbinlerce beğeni.
Pop yıldızı dünyanın en adanmış, son derece çevrimiçi ve akıl almaz derecede büyük hayran kitlelerinden birine sahip. Şimdi Swiftie’ler kan peşinde.
Mega fandomlar organize olduklarında, K-pop hayranlarının rezervasyon yapması gibi muazzam şeyler yapabilirler. yüzlerce bilet Katılım sayılarını düşürmek amacıyla Donald Trump mitingine. 2024 ABD başkanlık seçimleri yaklaşırken bazı uzmanlar, teorileştirilmiş hakkında güç Swifties’in oylama bloğu olarak.
Ancak bugün seçim günü değil ve Swiftie’ler daha acil bir şeye odaklanmış durumda: Müzisyenin rızası olmadan yaptığı deepfake’lerin bulunmasını mümkün olduğunca zorlaştırmak. Artık X’te “taylor Swift AI” veya “Taylor Swift Deepfake” gibi terimleri aradığınızda, yapay zeka tarafından oluşturulan içeriği gömmeye çalışan hayranların binlerce gönderisini bulacaksınız. X’te “PROTECT TAYLOR SWIFT” ifadesi 36.000’den fazla gönderiyle trend oldu.
Bazen fandomun yönlendirdiği bu kampanyalar çizgiyi aşabiliyor. Bazı hayranlar birbirlerini deepfake’leri yayan X kullanıcılarını ifşa etmeye teşvik ederken, diğerleri tacizle daha fazla tacizle mücadele etmekten endişe ediyor, özellikle de şüpheli failin nispeten yaygın bir isme sahip olduğu ve bazı durumlarda Swiftie’lerin yanlışın peşinde olabileceği durumlarda adam. Binlerce hayranın bu davaya katılması nedeniyle her Swiftie’nin aynı birleşik cephenin parçası olmaması kaçınılmazdır ve bazıları “İtibar” dönemiyle diğerlerinden daha fazla temas halindedir.
Erişilebilir üretken yapay zeka araçlarının yükselişiyle birlikte bu taciz taktiği o kadar yaygınlaştı ki geçen yıl FBI ve uluslararası kanun uygulayıcıları ortak bir yasa çıkardı. ifade cinsel şantaj tehdidi hakkında. Buna göre araştırma Siber güvenlik firması Deeptrace’e göre deepfake’lerin yaklaşık %96’sı pornografik ve neredeyse her zaman kadınlar yer alıyor.
Raporda, “Deepfake pornografisi yalnızca kadınları hedef alan ve onlara zarar veren bir olgudur” ifadesi yer alıyor. Bu istismar bile sızmış içine okullar, reşit olmayan kızların sınıf arkadaşları tarafından açık, rıza dışı deepfake’lerle hedef alındığı yer. Yani bazı Taylor Swift hayranları için bu sadece yıldızı koruma meselesi değil. Bu saldırıların sadece ünlülerin değil herkesin başına gelebileceğinin ve bu davranışın kabul edilemez olduğuna dair emsal oluşturmak için mücadele etmeleri gerektiğinin farkındalar.
LeAnn adlı bir TikTok kullanıcısı, “Şu anda bizim için darbeyi üstleniyor” dedi. video kullanıcıları Swift’i savunmaya çağırıyoruz. “Onu korurken kendinizi ve kızlarınızı da korumuş olacaksınız.”
Buna göre 404 Medyagörüntüler, üretken yapay zeka kullanarak kadınların rızası olmadan, müstehcen görüntülerini oluşturmaya adanmış bir Telegram sohbetinden kaynaklandı. Grup, kullanıcılarını Microsoft’un Tasarımcısında yapay zeka derin sahteleri oluşturmaya yönlendiriyor; bu tür içerik ihlal edilmesine rağmen Microsoft politikasıYapay zekası hala bunu yaratma kapasitesine sahip ve kullanıcılar, temel güvenlik araçlarını atlatmak için basit geçici çözümler oluşturdular.
Microsoft ve X, yayınlanmadan önce yorum talebine yanıt vermedi.
Kongre, rıza dışı deepfake’leri suç saymak için yasal ilerleme kaydediyor. Virginia deepfake intikam pornosunu yasakladı ve Temsilci Yvette Clarke (D-NY) yakın zamanda ilk kez 2019’da önerdiği DEEPFAKES Sorumluluk Yasasını yeniden sundu. Eleştirmenler internetin karanlık köşelerini yasalaştırmanın zorluğundan endişe ederken, bazıları tasarının yasalaştırılabileceğini söylüyor. en azından bu suiistimalden korunmak için bazı yasal emsaller oluşturun. Swift’in hayranları aynı zamanda Live Nation’un da sahibi olan mega eğlence şirketi Ticketmaster’ın başarısızlıklarına da dikkat çekti. Özellikle unutulmaz bir açıklamada, FTC başkanı Lina Khan geçen yıl Swift’in Eras turu için bilet satın alma konusundaki felaket deneyiminin “daha fazla Z kuşağını bir gecede tekel karşıtlarına dönüştürmesiyle sonuçlandığını” söyledi.
Bu kötüye kullanım kampanyası, yapay zekanın hızlı yükselişiyle ilgili sorunların simgesidir: Şirketler, gönderdikleri ürünlerin risklerini doğru şekilde değerlendiremeyecek kadar hızlı gelişiyor. Belki de Taylor Swift hayranları, hızlı gelişen yapay zeka ürünlerine yönelik düşünceli bir düzenleme için mücadeleye girişecektir; ancak yeterince test edilmemiş yapay zeka modellerinin herhangi bir incelemeyle karşı karşıya kalması için bir ünlüye karşı kitlesel bir taciz kampanyası gerekiyorsa, o zaman bu tamamen başka bir sorundur.