OpenAI, yapay zeka (AI) araçlarını bir şekilde kullanarak beş etki operasyonunu belirledi ve alt üst etti.
Çeşitli operasyonlar (Çin, İran, İsrail ve Rusya’dan iki operasyon) siyasi mesajların yayılmasına odaklandı. OpenAI’nin bildirdiği gibi, onlar metin oluşturmak için öncelikle yapay zekayı kullandı sosyal medya gönderileri ve yorumları gibi, ayrıca kodda hata ayıklama gibi bazı üretkenlik görevlerini gerçekleştirdim.
Ancak hiçbiri özellikle etkili olmadı. Üzerinde Brookings Patlama Ölçeğiölçen nüfuz operasyonlarının etkisi 1’den 6’ya kadar olan bir ölçekte hiçbiri 2’den yüksek puan alamadı. 1 puanı, kampanyanın yalnızca tek bir topluluk veya platformda yayıldığı anlamına gelirken, 6 ise bir politika tepkisinin veya şiddet gibi başka bir somut eylem biçiminin tetiklendiği anlamına gelir. 2, operasyonun tek bir platformdaki birden fazla topluluğa veya birden fazla platformdaki bir topluluğa yayıldığı anlamına gelir.
Yapay Zeka Odaklı Etki Operasyonlarının Mevcut Durumu
Söz konusu nüfuz operasyonları, coğrafi olarak farklı olsa da, sonuçta nitelik olarak oldukça benzerdi:
Bunlardan en meşhurları arasında Spamouflaj, Çin’den. Kodunda hata ayıklamak, sosyal medya etkinliğini araştırmak ve X, Medium ve Blogspot’ta birden fazla dilde içerik yayınlamak için OpenAI araçlarını kullandı.
Rusya tarafından yeni keşfedilen bir tehdit olan Bad Grammar, esas olarak Telegram üzerinde faaliyet gösteriyor ve Doğu Avrupa ve Amerika Birleşik Devletleri’ndeki bireyleri hedef alıyordu. Ayrıca bir Telegram botunu çalıştırmak ve Telegram hakkında hem Rusça hem de İngilizce siyasi yorumlar yazmak için kullandığı koddaki hataları ayıklamak için de yapay zekayı kullandı.
İkinci bir Rus grubu olan Doppelganger, X ve 9GAG hakkında beş Avrupa dilinde yorum yayınlamak, ayrıca manşetler oluşturmak ve haber makalelerini tercüme etmek, düzenlemek ve Facebook gönderilerine dönüştürmek için yapay zekayı kullandı.
Uluslararası Sanal Medya Birliği (IUVM) olarak bilinen İranlı bir kuruluş, kendi sitesi için makalelerin yanı sıra başlıklar ve web sitesi etiketleri oluşturmak ve tercüme etmek için yapay zekayı kullandı.
Son olarak, Tel Aviv merkezli bir siyasi pazarlama ve ticari istihbarat şirketi olan Stoic tarafından yürütülen bir operasyon olan Zero Zeno var. Stoacı makaleler ve yorumlar oluşturmak için OpenAI’yi kullandı Instagram, Facebook, X ve diğer web siteleri için.
Stoic son zamanlarda Meta’nın da dikkatini çekti. İçinde en son “Düşmanca Tehdit Raporu”, Meta, şirkete bağlı 510 Facebook hesabının, 32 Instagram hesabının, 11 sayfanın ve bir grubun kapatıldığını bildirdi. Çeşitli Instagram hesaplarını yalnızca 2.000 civarında hesap takip etti. Yaklaşık 500 hesap Facebook sayfalarını takip etti ve 100’den azı Facebook grubuna katıldı.
Yapay zekanın kötüye kullanılmasıyla mücadele etmek için OpenAI şunları yazdı: daha detaylı rapor sektör ortaklarıyla işbirliği yaptığını ve kullanıcılar için daha güvenli platformlar tasarlamak amacıyla tehdit faaliyetlerini kullandığını belirtti. Şirket aynı zamanda “yatırım[s] Suiistimallerle mücadeleye yardımcı olmak için yapay zeka araçlarından yararlanmak da dahil olmak üzere, burada tartıştığımız aktörler gibi aktörleri tespit etmek ve engellemek için teknoloji ve ekipler kullanıyoruz.”
Raporda daha fazla ayrıntıya girilmiyor ancak Dark Reading, OpenAI’nin kötü niyetli aktörleri engellemek ve onlarla mücadele etmek için tam olarak ne yaptığını açıklığa kavuşturmak için iletişime geçti.
