Perşembe günü OpenAI, Çin, İran, İsrail ve Rusya kaynaklı beş gizli nüfuz operasyonunu (IO) kesmek için adımlar attığını açıkladı. gerçek kimlik.
Son üç ayda tespit edilen bu faaliyetler, çeşitli dillerde kısa yorumlar ve daha uzun makaleler oluşturmak, sosyal medya hesapları için ad ve biyografi hazırlamak, açık kaynak araştırması yürütmek, basit kodlarda hata ayıklamak ve metinleri tercüme edin ve düzeltin.
AI araştırma kuruluşu, ağlardan ikisinin Rusya’daki aktörlerle bağlantılı olduğunu söyledi; bunlar arasında, Ukrayna, Moldova, Baltık Devletleri ve Amerika Birleşik Devletleri’ndeki (ABD) hedef kitleleri hedef almak için öncelikli olarak en az bir düzine Telegram hesabı kullanan, Bad Grammar kod adlı daha önce belgelenmemiş bir operasyon da yer alıyor. ) Rusça ve İngilizce olarak özensiz içeriğe sahip.
OpenAI, “Ağ, yorum-spam gönderim hattı oluşturmak için Telegram’daki modellerimizi ve hesaplarımızı kullandı.” söz konusu. “Önce operatörler, Telegram’da paylaşımları otomatikleştirmek için tasarlanmış olduğu anlaşılan koddaki hataları ayıklamak için modellerimizi kullandılar. Daha sonra belirli Telegram gönderilerine yanıt olarak Rusça ve İngilizce yorumlar oluşturdular.”
Operatörler ayrıca ABD’deki siyasi yelpazenin her iki tarafındaki farklı demografik özelliklere ait çeşitli hayali kişilikler kisvesi altında yorumlar oluşturmak için de modellerini kullandılar.
Rusya bağlantılı diğer bilgi operasyonu, ABD Hazine Bakanlığı’nın Yabancı Varlıklar Kontrol Ofisi (OFAC) tarafından bu Mart ayı başlarında siber etki operasyonlarına giriştiği için onaylanan üretken Doppelganger ağına (diğer adıyla Son Güvenilir Haberler) karşılık geliyordu.
Ağın, X ve 9GAG’da paylaşılan İngilizce, Fransızca, Almanca, İtalyanca ve Lehçe dillerinde yorumlar oluşturmak için OpenAI modellerini kullandığı söyleniyor; daha sonra grup tarafından yönetilen sahte web sitelerinde yayınlanan makaleleri Rusça’dan İngilizce ve Fransızca’ya tercüme etmek ve düzenlemek; başlıklar oluşturun; ve sitelerinde yayınlanan haber makalelerini Facebook gönderilerine dönüştürün.
OpenAI, “Bu etkinlik Avrupa ve Kuzey Amerika’daki izleyicileri hedef aldı ve web siteleri ve sosyal medya için içerik oluşturmaya odaklandı” dedi. “Bu kampanyanın çevrimiçi olarak yayınladığı içeriğin çoğunluğu Ukrayna’daki savaşa odaklanıyordu. Ukrayna, ABD, NATO ve AB’yi olumsuz, Rusya’yı ise olumlu bir açıdan tasvir ediyordu.”
Diğer üç faaliyet kümesi aşağıda listelenmiştir:
- Spamouflage olarak bilinen ve yapay zeka modellerini kamusal sosyal medya faaliyetlerini araştırmak için kullanan Çin kökenli bir ağ; X, Medium ve Blogger’da yayınlamak için Çince, İngilizce, Japonca ve Korece metinler oluşturabilir; Çinli muhalifleri eleştiren içeriğin ve ABD’de Yerli Amerikalılara yönelik tacizlerin propagandasını yapmak; ve veritabanlarını ve web sitelerini yönetmek için kodda hata ayıklama
- Uluslararası Sanal Medya Birliği olarak bilinen bir İran operasyonu (IUVM) uzun biçimli makaleler, başlıklar ve web sitesi etiketleri oluşturmak ve İngilizce ve Fransızca olarak tercüme etmek için yapay zeka modellerini kullandı. sonraki yayın iuvmpress adlı bir web sitesinde[.]ortak
- Sıfır Zeno olarak anılan bir ağ, kiralık bir İsrailli tehdit aktöründen, STOIC adlı bir ticari istihbarat firmasından çıkıyor ve yapay zeka modellerini Hamas karşıtı, Katar karşıtı, İsrail yanlısı, BJP karşıtı ve anti-BJP oluşturmak ve yaymak için kullanıyor. Instagram, Facebook, X ve bağlı web sitelerinde Kanada, ABD, Hindistan ve Gana’daki kullanıcıları hedefleyen Histadrut yanlısı içerik.
” [Zero Zeno] Operasyon ayrıca modellerimizi yaş, cinsiyet ve konum gibi belirli değişkenlere dayalı olarak sosyal medya için kurgusal karakterler ve biyografiler oluşturmak ve İsrail’deki Histadrut sendikası hakkında kamuya açık olarak yorum yapan İsrail’deki kişiler üzerinde araştırma yapmak için de kullandı.” dedi. BT modelleri bu taleplere yanıt olarak kişisel verileri sağlamayı reddetti.
ChatGPT yapımcısı, IO ile ilgili ilk tehdit raporunda, bu kampanyalardan hiçbirinin hizmetlerinden yararlanarak “kitle etkileşimini veya erişimini anlamlı bir şekilde artırmadığını” vurguladı.
Gelişme şu şekilde geliyor endişeler Üretken yapay zeka (GenAI) araçlarının, kötü niyetli aktörlerin gerçekçi metin, görseller ve hatta video içeriği oluşturmasını kolaylaştırabileceği, yanlış bilgilendirme ve dezenformasyon operasyonlarını tespit etmeyi ve bunlara yanıt vermeyi zorlaştırabileceği öne sürülüyor.
OpenAI’nin istihbarat ve araştırmalardan sorumlu baş araştırmacısı Ben Nimmo, “Şu ana kadar durum devrim değil, evrimdir” dedi. söz konusu. “Bu değişebilir. İzlemeye ve paylaşmaya devam etmek önemlidir.”
Meta STOIC ve Doppelganger’ı Vurguluyor
Ayrı olarak, Meta Üç Aylık Çelişkili Tehdit Raporuayrıca STOIC’in etki operasyonlarının ayrıntılarını da paylaşarak aktörün Kanada ve ABD’deki kullanıcıları hedeflemek için kullandığı Facebook ve Instagram hesaplarındaki yaklaşık 500 ele geçirilmiş ve sahte hesaptan oluşan bir karışımı kaldırdığını söyledi.
Sosyal medya devi, “Bu kampanya, OpSec’in faaliyetlerini anonimleştirmek için Kuzey Amerika proxy altyapısından yararlanmak da dahil olmak üzere, OpSec’in bakımında göreceli bir disiplini ortaya koydu” dedi.
Meta ayrıca, kamuoyunu etkilemek ve güncel olaylarla ilgili siyasi anlatıları öne çıkarmak amacıyla koordineli, özgün olmayan davranışlara (CIB) girişen Bangladeş, Çin, Hırvatistan, İran ve Rusya’dan aldatıcı ağlardan oluşan yüzlerce hesabı kaldırdığını söyledi.
Çin merkezli kötü niyetli ağ esas olarak küresel Sih topluluğunu hedef alıyordu ve var olmayan bir Sih yanlısı hareketle ilgili manipüle edilmiş görüntüleri ve İngilizce ve Hintçe dillerindeki gönderileri yaymak için kullanılan birkaç düzine Instagram ve Facebook hesabı, sayfası ve grubundan oluşuyordu. , Khalistan ayrılıkçı hareketi ve Hindistan hükümetine yönelik eleştiriler.
Şimdiye kadar GenAI odaklı taktiklerin herhangi bir yeni ve karmaşık kullanımını tespit etmediğini belirtti; şirket, daha önce Google tarafından belgelenen yapay zeka tarafından oluşturulan video haber okuyucularının örneklerini vurguladı. Grafik Ve GNETBu, bu kampanyaların büyük ölçüde etkisiz doğasına rağmen, tehdit aktörlerinin teknolojiyi aktif olarak denediğini gösteriyor.
Meta, Doppelganger’ın “parçala ve yakala” çabalarını sürdürdüğünü, ancak kamuya açık raporlamaya tepki olarak, tespitten kaçınmak için metin gizlemenin kullanılması da dahil olmak üzere taktiklerde büyük bir değişiklik yaptığını söyledi (örneğin, “U. kr. ai. “Ukrayna” yerine n.e”) ve Nisan ayından bu yana haber medyası gibi görünen yazım hatası alan adlarına bağlantı verme uygulamasını bırakıyor.
Sekoia, “Kampanya iki kategorideki haber sitelerinden oluşan bir ağ tarafından destekleniyor: yazım hatası yapılmış meşru medya kuruluşları ve kuruluşları ile bağımsız haber siteleri.” söz konusu Rusya yanlısı düşman ağ hakkında geçen hafta yayınlanan bir raporda.
“Bu web sitelerinde dezenformasyon makaleleri yayınlanıyor ve daha sonra çeşitli platformlardaki, özellikle de Instagram, TikTok, Cameo ve YouTube gibi video barındıran platformlardaki orijinal olmayan sosyal medya hesapları aracılığıyla yayılıyor ve güçlendiriliyor.”
Çok sayıda ve dalgalar halinde oluşturulan bu sosyal medya profilleri, Facebook ve Instagram’daki ücretli reklam kampanyalarından yararlanarak kullanıcıları propaganda sitelerine yönlendiriyor. Facebook hesapları yalnızca tek bir yazı paylaşmak için kullanıldığından ve daha sonra terk edildiğinden dolayı yakıcı hesaplar olarak da adlandırılmaktadır.
Fransız siber güvenlik firması, hem Ukrayna’nın müttefiklerine hem de Kremlin adına Rusça konuşan yerel kitlelere yönelik olan endüstriyel ölçekli kampanyaları, iki ara web sitesinden geçen bir yeniden yönlendirme zinciri başlatmak için sosyal botnet’ten yararlanan çok katmanlı olarak tanımladı. Kullanıcıları son sayfaya yönlendirmek için.
Recorded Future, bu ay yayınlanan bir raporda CopyCop adında yeni bir etki ağının ayrıntılarını veriyor. işletilen Rusya’dan, Batı’nın iç ve dış politikasını baltalayan anlatıları teşvik etmek ve devam eden Rus-Ukrayna savaşı ve İsrail-Hamas çatışmasıyla ilgili içeriği yaymak için ABD, İngiltere ve Fransa’daki orijinal olmayan medya kuruluşlarından yararlanıyor.
Şirket, “CopyCop, siyasi mesajları belirli önyargılara göre uyarlamak amacıyla meşru medya kaynaklarından içerik çalmak ve değiştirmek için üretken yapay zekayı yaygın bir şekilde kullandı” dedi. söz konusu. “Bu, Batı politikalarını eleştiren ve Ukrayna çatışması ve İsrail-Hamas gerilimleri gibi uluslararası konularda Rusya’nın bakış açısını destekleyen içeriği içeriyordu.”
CopyCop tarafından oluşturulan içerik aynı zamanda Doppelganger ve gibi tanınmış devlet destekli aktörler tarafından da güçlendirilmektedir. Portal Kombat’ıRusya’yı olumlu bir şekilde yansıtan içeriğe hizmet etmek için ortak bir çaba gösteriyor.
TikTok Gizli Etki Operasyonlarını Engelliyor
Mayıs ayının başlarında ByteDance’ın sahibi olduğu TikTok söz konusu yılın başından bu yana platformunda Bangladeş, Çin, Ekvador, Almanya, Guatemala, Endonezya, İran, Irak, Sırbistan, Ukrayna ve Venezuela’ya kadar takip ettiği ağlar da dahil olmak üzere bu tür birçok ağı ortaya çıkardı ve yok etti.
Çinli şirketi şirketi satmaya zorlayacak veya ülkede yasakla karşı karşıya kalacak bir yasanın kabul edilmesinin ardından şu anda ABD’de incelemeyle karşı karşıya olan TikTok, 2024’te Rus devletine bağlı hesaplar için giderek daha fazla tercih edilen bir platform haline geldi. bir göre yeni rapor Brookings Enstitüsü’nden.
Dahası, sosyal video barındırma hizmeti, Emerald Divide olarak bilinen ve 2021’den bu yana İran yanlısı aktörler tarafından İsrail toplumunu hedef alarak düzenlediğine inanılan karmaşık bir etki kampanyası olarak nitelendirilen şeyin üreme alanı haline geldi.
Recorded Future, “Emerald Divide, etki anlatımlarını İsrail’in gelişen siyasi ortamına hızla uyarlayan dinamik yaklaşımıyla tanınıyor.” söz konusu.
“Yapay zeka tarafından oluşturulan derin sahtekarlıklar ve stratejik olarak işletilen bir sosyal medya hesapları ağı gibi modern dijital araçlardan yararlanıyor; bu araçlar, çeşitli ve sıklıkla karşıt kitleleri hedef alıyor, toplumsal bölünmeleri etkili bir şekilde körüklüyor ve protestolar ve hükümet karşıtı mesajların yayılması gibi fiziksel eylemleri teşvik ediyor. “