TIME Yılın Kişisi olan Beyaz Saray’ı ve popüler kültürün en fanatik hayran kitlesini aynı anda kızdırdığınızda her şeyi berbat ettiğinizi bilirsiniz. Geçtiğimiz hafta, Taylor Swift’in AI tarafından oluşturulan pornografik deepfake görüntüleri viral hale geldiğinde, Elon Musk’a ait olan ve daha önce Twitter olarak adlandırılan platform X’e olan da buydu.
Rıza dışı, açık deepfake’lerin en yaygın gönderilerinden biri, yüz binlerce beğeniyle 45 milyondan fazla kez görüntülendi. Bu, görselleri ayrı gönderilerde yeniden paylaşan tüm hesapları hesaba katmıyor bile; bir görsel bu kadar geniş bir alana yayıldığında, onu kaldırmak aslında imkansızdır.
X, kötüye kullanım amaçlı içeriği hızlı ve geniş ölçekte tespit edecek altyapıya sahip değil. Twitter günlerinde bile bu sorunun çözümü zordu ancak Musk, Twitter çalışanlarının büyük bir kısmını yok ettiğinden beri durum çok daha kötü hale geldi. güven ve emniyet takımlar. Bu nedenle, Taylor Swift’in devasa ve tutkulu hayran kitlesi meseleyi kendi ellerine aldı ve kullanıcıların kötü niyetli görselleri bulmasını zorlaştırmak için “taylor Swift AI” ve “Taylor Swift Deepfake” gibi sorgular için arama sonuçlarını doldurdu. Beyaz Saray’ın basın sözcüsü olarak Kongreye çağrıda bulundu X bir şeyler yapmak için “taylor Swift” arama terimini birkaç gün yasakladı. Kullanıcılar müzisyenin adını aradıklarında bir hata oluştuğunu belirten bir bildirim görüyorlardı.
Bu içerik denetleme başarısızlığı, Taylor Swift’in Taylor Swift olması nedeniyle ulusal bir haber haline geldi. Peki sosyal platformlar dünyanın en ünlü kadınlarından birini koruyamazsa kimi koruyabilir?
“Eğer Taylor Swift’in başına gelen, pek çok insanın başına geldiği gibi sizin de başınıza gelirse, muhtemelen nüfuza dayalı olarak aynı miktarda desteğe sahip olmayacaksınız, bu da bunlara gerçekten erişemeyeceğiniz anlamına geliyor. önemli bakım toplulukları,” Northumbria Üniversitesi’nin Birleşik Krallık’taki Dijital Vatandaşlar Merkezi’nden Dr. Carolina Are, TechCrunch’a söyledi. “Ve bu bakım toplulukları, çoğu kullanıcının bu durumlarda başvurmak zorunda kaldığı şeydir, bu da size gerçekten içerik denetiminin başarısızlığını gösteriyor.”
“Taylor Swift” arama terimini yasaklamak, patlayan bir borunun üzerine bir parça bant yapıştırmak gibidir. TikTok kullanıcılarının seks yerine “seggs” araması gibi pek çok bariz geçici çözüm var. Arama bloğu, X’in bir şey yapıyormuş gibi görünmesini sağlamak için uygulayabileceği bir şeydi, ancak insanların bunun yerine sadece “t Swift” aramasını engellemez. Copia Institute ve Techdirt kurucusu Mike Masnick isminde “Güven ve güvenliğin balyoz versiyonu” çabası.
Are, “Platformlar kadınlara, ikili cinsiyete sahip olmayan insanlara ve eşcinsel insanlara bedenleri üzerinde yetki verme konusunda berbat, bu yüzden çevrimdışı istismar ve ataerkillik sistemlerini kopyalıyorlar” dedi. “Moderasyon sistemleriniz bir kriz anında tepki verme yeteneğinden yoksunsa veya moderasyon sistemleriniz, kullanıcıların bir şeylerin ters gittiğini bildirdikleri sırada ihtiyaçlarına tepki verme yeteneğinden yoksunsa, bir sorunumuz var demektir.”
Peki Taylor Swift fiyaskosunu önlemek için X ne yapmalıydı?
Are bu soruları onun bir parçası olarak soruyor araştırmave sosyal platformların içerik denetlemeyi nasıl ele aldıkları konusunda tamamen elden geçirilmesi gerektiğini öne sürüyor. Son zamanlarda, dünyanın dört bir yanından sansür ve istismardan etkilenen 45 internet kullanıcısıyla bir dizi yuvarlak masa tartışması gerçekleştirerek platformlara değişimin nasıl hayata geçirileceğine dair önerilerde bulundu.
Önerilerden biri, sosyal medya platformlarının bireysel kullanıcılara karşı, kendi hesaplarıyla ilgili kararlar veya diğer hesaplarla ilgili raporlar konusunda daha şeffaf olmalarıdır.
Are, “Platformların bu materyale erişimi olmasına rağmen bir vaka kaydına erişiminiz yok; sadece bunu kamuya açıklamak istemiyorlar” dedi. “Sanırım konu istismar olduğunda insanların, yüz yüze yardım olmasa da en azından doğrudan iletişimi içeren daha kişisel, bağlamsal ve hızlı bir tepkiye ihtiyaçları var.”
X bu hafta Austin, Texas’ta yeni bir “Güven ve Güvenlik” merkezi oluşturmak için 100 içerik moderatörü alacağını duyurdu. Ancak Musk’un yetki alanı altında platform, dışlanmış kullanıcıları istismardan koruma konusunda güçlü bir örnek oluşturmadı. Ayrıca, imparatorun sözlerini yerine getirme konusunda uzun bir geçmişe sahip olması nedeniyle Musk’ı göründüğü gibi kabul etmek de zor olabilir. Musk, Twitter’ı ilk satın aldığında büyük kararlar almadan önce bir içerik denetleme konseyi oluşturacağını açıklamıştı. Bu olmadı.
Yapay zeka tarafından oluşturulan deepfake’lerde sorumluluk yalnızca sosyal platformlarda değil. Aynı zamanda tüketiciye yönelik üretken yapay zeka ürünleri yaratan şirketlerle de ilgilidir.
tarafından yapılan bir araştırmaya göre 404 MedyaSwift’in istismar edici tasvirleri, kendilerini rıza dışı, açık deepfake’ler oluşturmaya adamış bir Telegram grubundan geldi. Gruptaki kullanıcılar genellikle, girilen istemlere göre görüntüler oluşturmak için Open AI’nin DALL-E 3’ünden yararlanan Microsoft Designer’ı kullanıyor. İçinde kaçamak Microsoft’un o zamandan bu yana ele aldığı konu ile kullanıcılar, “taylor ‘şarkıcı’ Swift” veya “Jennifer ‘aktör’ Aniston” gibi istemler yazarak ünlülerin resimlerini oluşturabiliyor.
Microsoft’ta yazılım mühendisliğinin önde gelen isimlerinden Shane Jones bir mektup yazdı Washington eyaleti başsavcısına, Aralık ayında DALL-E 3’te “modelin zararlı görüntüler oluşturmasını ve dağıtmasını önlemek için tasarlanan bazı korkulukların atlanmasını” mümkün kılan güvenlik açıkları bulduğunu belirten bir ifade verdi.
Jones, Microsoft ve OpenAI’yi güvenlik açıkları konusunda uyardı ancak iki hafta sonra sorunların çözüldüğüne dair hiçbir belirti alamadı. Bu nedenle, OpenAI’yi DALL-E 3’ün kullanılabilirliğini askıya almaya teşvik etmek için LinkedIn’de açık bir mektup yayınladı. Jones, Microsoft’u mektubu konusunda uyardı, ancak kendisinden hemen onu kaldırması istendi.
Jones, eyalet başsavcısına yazdığı mektubunda, “Şirketleri, ürünlerinin güvenliğinden ve bilinen riskleri kamuya açıklama sorumluluklarından sorumlu tutmamız gerekiyor” diye yazdı. “Benim gibi endişeli çalışanlar sessiz kalma konusunda korkutulmamalı.”
Dünyanın en etkili şirketleri yapay zekaya büyük yatırım yaparken, platformların kötü niyetli içerikleri düzenlemek için proaktif bir yaklaşım benimsemesi gerekiyor; ancak ünlülerin deepfake’lerini yapmanın o kadar kolay olmadığı bir dönemde bile, ihlal niteliğindeki davranışlar denetimden kolayca kaçabiliyor.
Are, “Bu size gerçekten platformların güvenilmez olduğunu gösteriyor” dedi. “Ötekileştirilmiş topluluklar, çevrimiçi güvenliğimizden teknik olarak sorumlu olan kişilerden ziyade takipçilerine ve diğer kullanıcılara güvenmek zorunda.”