OpenAI, 30 Mayıs’ta beş operasyonu sonlandırdığını veya en azından kesintiye uğrattığını açıkladı ” İnternetteki aldatıcı faaliyetleri desteklemek için modellerimizi kullanmaya çalışanlar “. Bunlar son üç ayda gerçekleşti. Bazıları, birkaç gün önce bu kez Meta tarafından yayınlanan üç aylık raporla örtüşüyor.
OpenAI “koordineli, orijinal olmayan davranış” arayışına devam ediyor
Rusya, Çin, İsrail ve hatta İran’ın ortak noktası yurt dışına yönelik bu kampanyaların menşe ülkeleri olmalarıdır. Bunlar ” gizli nüfuz operasyonları » OpenAI tarafından isimlendirildikleri şekliyle “ Bu operasyonların arkasındaki aktörlerin gerçek kimliğini veya niyetlerini açıklamadan kamuoyunu manipüle etmek veya siyasi sonuçları etkilemek “.
2018’de Cambridge Analytica skandalı ve Rusya’nın Donald Trump’ın kampanyasına destek verdiğine dair şüphelerin ardından Facebook, durumu düzeltmeye çalıştı. O zamandan bu yana, şimdiki adı Meta olan sosyal medya şirketi, platformlarında düzenli olarak dezenformasyon veya yapay manipülasyon girişimlerine ilişkin raporlar yayınladı.
Sesteki meta not Rapor edebilir O ” Şu ana kadar buna neden olan düşman ağlarını bozma yeteneğimizi engelleyecek yeni GenAI tabanlı taktiklere rastlamadık. “. Öte yandan teknoloji, daha geleneksel tekniklerle karıştırılarak iyi ve gerçekten kullanılıyor.
Perşembe, OpenAI Meta ile aynı yolu izledi. Start-up, araçlarının zararlı kullanımları konusunda kendi dikkatini göstermek istiyor. Kısa yorumların, çeşitli dillerde makalelerin oluşturulmasından, sosyal ağlarda profil oluşturulmasından veya yürütülen operasyonları kolaylaştırmak için basit kodlar oluşturulmasından bahsediyor.
Rusya ve İsrail askeri “istismarlarını” teşvik ediyor, Çin ortalığı karıştırmak istiyor
Bu şekilde açığa çıkan girişimler arasında “Doppelganger” da yer alıyor. Meta, bu kampanyayı 2022’den beri takip ettiğini hatırlıyor. Yüksek tespit oranına ve giderek daha az güvenilirlik kazanma çabasına rağmen bu kampanya devam ediyor. Rusya’dan gelen bu saldırı, başlangıçta Ukrayna’ya verilen uluslararası desteği baltalamayı amaçlıyordu. O günden bu yana faaliyet alanları çeşitlendi.
OpenAI, modellerinin İngilizce, Fransızca, Almanca, İtalyanca ve Lehçe dillerinde yorum oluşturmak için kullanıldığını bildiriyor. İlgili siteler İngilizce ve Fransızca olarak da yayınlanırken, Avrupalı siyasi figürlerin DALL-E 3 ile görsellerini oluşturma girişimleri engellendi.
Rusya gibi İsrail de Gazze’deki askeri operasyonlarını daha iyi bir şekilde sunmaya çalışıyor. 20 Mayıs’ta Uluslararası Ceza Mahkemesi, Başbakan Benjamin Netanyahu ve Savunma Bakanı Yoav Gallant hakkında insanlığa karşı suçlar ve savaş suçları nedeniyle tutuklama emri çıkardı.
Merkezi Tel Aviv’de bulunan siyasi ve ekonomik istihbarat şirketi STOIC, fikir savaşını kazanmak için gerekli araçları uygulamaya koydu. Yapay zeka kullanılarak oluşturulan yorumlar ve makaleler, Amerika Birleşik Devletleri ve Kanada’daki medya ve siyasi figürlerin sayfalarını hedef aldı. Bu gerçek dışı içerik, askeri operasyonları ve Hamas tarafından tutulan rehinelerin serbest bırakılması yönündeki talepleri övmenin yanı sıra, kampüsteki öğrenci hareketlerini veya Orta Doğu’daki Birleşmiş Milletler Filistin Mültecilerini (UNRWA) anti-Semitizmle suçlamak için kullanıldı.
Meta toplamda 510 Facebook hesabı, 32 Instagram hesabı, 11 sayfa ve bir grubun tespit edilip kapatıldığını belirtiyor. Bazıları Vietnam’dan gelen sahte profillerle yapay olarak şişirildi.
Çin için OpenAI ve Meta farklı görünen iki durumdan bahsediyor. OpenAI bu girişimi “Spamouflage” olarak adlandırıyor. FBI’a göre bu varlık Çin Kamu Güvenliği Bakanlığı ile bağlantılı olacak. X, Medium, Blogspot’ta yer alan Çince, İngilizce, Japonca ve Korece içeriklerle özellikle yurt dışında yerleşik Çinli muhalifleri hedef alıyor.
Meta daha önceki raporlarında Spamouflage’den bahsetmiş olabilir ama biz burada bambaşka bir operasyondan bahsediyoruz. Bu, Hindistan’daki Sih topluluğunu veya diasporasını hedef alacaktır. Amaç, Hindistan parlamento seçimlerinin ortasındayken bu nüfusun bağımsızlık arzusunu yapay olarak artırmak olacaktır.
Bilgi savaşı karşısında devletler boş kalamaz
Ne Meta ne de OpenAI, yaklaşan Avrupa seçimlerini hedef alan yurt dışından herhangi bir kampanyaya dikkat çekmedi. Mark Zuckerberg’in grubunun raporu şöyle: Şu ana kadar bozduğumuz asılsız AB odaklı davranışların çoğunluğu, doğası gereği yerel nitelikteydi “.
Özellikle görüş manipülasyonu sorununa maruz kalan iki şirket, belli bir kişisel tatmin gösteriyor. Meta sahip olduğunu iddia ediyor “ Bu kampanyaların birçoğunu, özgün topluluklar içinde bir kitle oluşturamadan erken bir aşamada tespit edip kaldırdılar “. OpenAI de benzer bir konuşma yapıyor, “ Bu operasyonlar, hedef kitle katılımında veya hizmetlerimizden elde edilen erişimde önemli bir artıştan faydalanmış gibi görünmüyor “.
Gösterilen şeffaflık memnuniyetle karşılanıyorsa, OpenAI bu uygulamayı sürdürmek istiyor gibi görünüyor, onun da sınırları var. Bunlardan en önemlisi olası kampanyaların her iki grubun da radarına girmesi. Yapay zekanın evrimi ve demokratikleşmesi, klasik istikrarsızlaştırma taktikleriyle birleştiğinde Devletlerin daha fazla dikkatli olmasını gerektiriyor. Neyse ki bu bilgi savaşı, özellikle Fransa’da yakın zamanda özel bir kurum olan Viginum’un kurulmasıyla birlikte giderek daha ciddiye alınıyor.