OpenAI Cuma günü ChatGPT kullanarak bir “İran etki operasyonu” yakaladığını söyledi. Storm-1679 olarak bilinen grup, Başkan Yardımcısı Kamala Harris ve eski Başkan Donald Trump etrafında kamuoyu oluşturmak için makaleler ve sosyal medya yorumları üretti. Açık AIOpenAI, Storm-1679’un 2024 ABD başkanlık adaylarını hedeflemesinin yanı sıra İsrail’in Gazze’yi işgali ve 2024 Olimpiyatları’ndaki varlığı, ABD merkezli Latinx topluluklarının hakları, Venezuela siyaseti ve İskoçya’nın İngiltere’den bağımsızlığı hakkında da içerik ürettiğini söyledi
Şirket, OpenAI tarafından tespit edilen gönderilerin ve makalelerin çoğunun gerçek kişiler tarafından pek ilgi görmediğini söyledi. Yine de, olayı blogunda detaylı bir şekilde anlattımuhafazakar ve ilerici gibi davranan ve “#DumpTrump” ve “#DumpKamala” gibi hashtag’ler kullanan bir düzine X (eski Twitter) hesabı bulduğunu yazdı. Storm-1679 ayrıca OpenAI’ye göre yapay zeka tarafından üretilen içeriği yaymak için en az bir Instagram hesabını kullandı.
OpenAI daha önce “devlet bağlantılı tehdit aktörleri” araçlarını kullanıyor, ancak bu, ChatGPT’yi kullanan belirli bir seçim müdahale kampanyasını ifşa ettiği ilk sefer.
OpenAI, söz konusu keşfe içeriği oluşturan bir “küme” hesabı yasaklayarak yanıt verdiğini söyledi; şirket ayrıca “tehdit istihbaratını hükümet, kampanya ve endüstri paydaşlarıyla paylaştığını” söyledi. Şirket bu paydaşların adını özellikle vermedi, ancak gönderilerden birkaçının ekran görüntülerini paylaştı. Bu ekran görüntülerinde 8 ila 207 görüntüleme arasında değişen görüntüleme sayıları ve neredeyse hiç beğeni yoktu.
OpenAI, Storm-1679’un ayrıca ChatGPT tarafından oluşturulan makaleleri “hem ilerici hem de muhafazakar haber kaynakları gibi görünen” çeşitli web sitelerinde paylaştığını söyledi. Şirket, “Belirlediğimiz sosyal medya gönderilerinin çoğu az veya hiç beğeni, paylaşım veya yorum almadı. Benzer şekilde web makalelerinin sosyal medyada paylaşıldığına dair bir belirti bulamadık.” diye ekledi.
Bir 6 Ağustos raporu Microsoft’tan bir kaynak da Storm-2035’i benzer bir şekilde, “haber kaynağı gibi görünen dört web sitesi” olan bir İran ağı olarak tanımladı. Microsoft’a göre ağ, seçim, LGBTQIA+ hakları ve İsrail’in Gazze’yi işgali hakkında “kutuplaştırıcı” paylaşımlar oluşturdu.
ABD seçimlerine yönelik çevrimiçi yabancı müdahale raporları artık neredeyse sıradan hale geldi. Örneğin Microsoft’un 6 Ağustos tarihli raporu, ismi açıklanmayan, “üst düzey” bir ABD kampanya yetkilisini hedef alan İran bağlantılı bir kimlik avı saldırısını da ayrıntılı olarak açıkladı. Microsoft raporu yayınladıktan kısa bir süre sonra Trump kampanyası, “yabancı kaynakların” 2024 başkanlık seçimlerini etkilemek amacıyla bazı e-postalarını ve belgelerini çaldığını duyurdu. Sekiz yıl önce, Guccifer 2.0 olarak bilinen Rusya bağlantılı bir bilgisayar korsanlığı grubu, benzer bir yöntemle Demokrat Ulusal Komitesi e-postalarını çalmıştı. kimlik avı saldırısı; 2016 Demokrat Ulusal Kongresi öncesinde binlerce DNC e-postasını ve belgesini sızdırdılar.
Yasa koyucuların gelgit benzeri baskısı altında, büyük teknoloji şirketleri bu tür olaylara yanıt olarak yıllar içinde çeşitli çabalar başlattı. Çabaları arasında meme gerçek kontrolleri, hayal ürünü düşünceler, kısa ömürlü bir siyasi reklam yasağı, bir “savaş odası” ve rakipler ve polislerle işbirlikleri yer alıyor.
