Bu yılın başlarında Pakistan’daki protestolar tırmandığında Hükümet yanlısı güçler ile eski Başbakan İmran Han’ın destekçileri arasında çatışmalar çıktıŞimdi tutuklu olan lider, mesajını desteklemek için sosyal medyaya yöneldi. Bunu Khan paylaştı kısa video klip Twitter’da taraftarlarının yüzünün yazılı olduğu pankartları kaldırıp adını slogan attıkları görülüyor. Klip, turuncu elbiseli bir kadının ağır zırhlı çevik kuvvet polisiyle cesurca yüz yüze durduğu sabit bir çekimle bitiyor.
Khan, Twitter hesabından yaptığı açıklamada, “Asla unutulmayacak olan şey, güvenlik güçlerimizin vahşeti ve kadınlarımızı taciz etmek, incitmek ve aşağılamak için gösterdikleri utanmazca yollardır” dedi. Tek sorun: Polisin önünde cesurca duran kadını gösteren görüntü gerçek değildi. Şunlardan biri kullanılarak oluşturuldu: birçok yeni AI görüntü oluşturucu.
Khan, kendisine yönelen tek siyasi lider değil Siyasi kazanç için AI deepfake’leri. Freedom House’un Gizmodo ile paylaştığı yeni bir rapor, geçen yıl en az 16 ülkedeki siyasi liderlerin “şüphe tohumları ekmek, muhalifleri karalamak veya kamuoyundaki tartışmayı etkilemek” için derin sahtekarlıklar kullandığını ortaya çıkardı. Bu örneklerin bir kısmı Sahra Altı Afrika ve Güneybatı Asya’daki daha az gelişmiş ülkelerde meydana gelmiş olsa da, en az ikisi Amerika Birleşik Devletleri’nden çıkmıştır.
Hem eski Başkan Donald Trump hem de Florida Valisi Ron DeSantis, yaklaşan Cumhuriyetçi başkanlık adaylığı öncesinde birbirlerini karalamaya çalışmak için deepfake videolar ve sesler kullandılar. Trump’ın durumunda, derin sahte ses taklidi kullandı George Soros, Adolf Hitler ve Şeytan’ın kendisi DeSantis’le dalga geçiyor Twitter Spaces’ta sallantılı bir kampanya duyurusu. DeSantis, Trump’ı gösterdiği iddia edilen derin sahte görüntülerle karşılık verdi kucaklayan eski Ulusal Sağlık Enstitüsü Direktörü Anthony Fauci. Mevcut GOP’ta Fauci’ye nezaket göstermek siyasi intiharla eşdeğerdir.
Freedom House, “İnternette Özgürlük” raporunda “Yapay zeka, sansürü, gözetlemeyi ve dezenformasyonun yaratılmasını ve yayılmasını daha kolay, daha hızlı, daha ucuz ve daha etkili hale getirerek dijital baskının güçlendiricisi olarak hizmet edebilir” dedi.
Rapor, gelişmiş yapay zeka araçlarının dünya çapında siyasi baskıyı güçlendirmek için kullanıldığı çok sayıda rahatsız edici yöntemi detaylandırıyor. Raporda analiz edilen 70 ülkenin en az 22’sindeki hükümetler, sosyal medya şirketlerinin hoş karşılanmayan siyasi, sosyal ve dini söylemleri tespit etmek ve ortadan kaldırmak için yapay zeka kullanmasını zorunlu kılan yasal çerçevelere sahipti. Bu çerçeveler, büyük teknoloji platformlarındaki standart içerik denetleme politikalarının ötesine geçiyor. Freedom House, bu ülkelerde yürürlükteki yasaların şirketleri “uluslararası insan hakları yasalarındaki ifade özgürlüğü standartları kapsamında korunması gereken” siyasi, sosyal veya dini içerikleri kaldırmaya zorladığını savunuyor. Sansürün etkinliğini artırmanın yanı sıra, yapay zekanın siyasi içeriği kaldırmak için kullanılması devlete kendisini gizlemesi için daha fazla koruma sağlıyor.
Raporda “Yapay zekanın bu şekilde kullanılması aynı zamanda devletin sansürdeki rolünü de maskeliyor ve demokratik olmayan liderlerin çevrimiçi kontroller dayatmanın faydalarını bu tür kısıtlamalara karşı halkın öfkesinin maliyetine karşı tartmak zorunda olduğu sözde dijital diktatör ikilemini hafifletebilir” dedi. ekler.
Diğer durumlarda, devlet aktörlerinin, gerçek haber spikerlerini taklit etmeyi amaçlayan yapay zeka tarafından üretilen propaganda oluşturma konusunda uzmanlaşmış özel “kiralık yapay zeka” şirketlerine yöneldiği bildiriliyor. Örneğin Venezuela’daki devlet destekli haber istasyonları, Batı’nın ülkeye yönelik eleştirilerine karşı çıkan çoğunlukla beyaz, İngilizce konuşan haber spikerlerinin tuhaf videolarını paylaşmaya başladı. Bu tuhaf konuşmacılar aslında Synthesia adlı bir şirket tarafından oluşturulan yapay zeka tarafından oluşturulan avatarlar. Çin yanlısı hükümet bot hesapları, yapay zeka tarafından oluşturulan haber spikerlerinin benzer kliplerini sosyal medyada paylaştı ve bu sefer eleştirmenleri reddediyor gibi göründü. Çin yanlısı yapay zeka avatarları tamamen Yapay zeka haber bölümünün sözde “Wolf News” adını verdiği uyduruldu.
Freedom House araştırmacıları, deepfake haber spikerleri üretmeye yönelik bu yeni çabaları, hükümetlerin haber istasyonlarını propaganda yapmaya zorlaması veya para ödemesinin teknik ve taktiksel bir evrimi olarak görüyor.
Raporda, “Deepfake’lerin bu şekilde kullanılması, vicdansız siyasi aktörlerin yanlış veya yanıltıcı bilgiler yaymak için uzun süredir manipüle edilmiş haber içerikleri ve sosyal medya botları kullanma biçimleriyle tutarlıdır” ifadesine yer veriliyor.
Belki de en rahatsız edici olanı, Freedom House’un raporunun, Aslında gerçek olan video ve ses sahtekarlıklarını çağıran siyasi aktörler. Bir örnekte, Hindistan’da Palanivel Thiagarajan adlı önde gelen bir devlet yetkilisinin, meslektaşlarını aşağıladığı sızdırılmış sesi yapay zeka tarafından oluşturulduğunu iddia ederek bir kenara bırakmaya çalıştığı bildirildi. Gerçekti. Araştırmacılar, eski Gabon Devlet Başkanı Ali Bongo’ya ait bir videonun sahte olduğu yönündeki yanlış varsayımın, siyasi bir ayaklanmanın alevlenmesine yardımcı oldu.
Geçtiğimiz yıl Freedom House tarafından keşfedilen siyasi manipülasyon ve dezenformasyon çabalarının çoğunluğu hâlâ botların ve ücretli trollerin düşük teknolojili konuşlandırılmasına dayansa da, üretken yapay zeka araçları daha ikna edici olmaya devam ettikçe ve fiyatlar düştükçe bu denklem tersine dönebilir. Freedom House, bir dereceye kadar ikna edici olmayan veya kolayca çürütülebilir yapay zeka manipülasyonunun bile “halkın demokratik sürece olan güvenini baltaladığını” öne sürüyor.
Freedom House Başkanı Michael J. Abramowitz, “Çevrimiçi insan hakları günümüzün otokratlarının ana hedeflerinden biri olduğundan bu, zamanımız için kritik bir konudur” dedi. “Demokratik devletler, daha fazla şeffaflık sağlamak, etkili denetim mekanizmaları sağlamak ve insan haklarının korunmasına öncelik vermek için yapay zeka düzenlemelerini desteklemelidir.”