OpenAI, ABD başkanlık seçimleriyle ilgili içerik üreten İran nüfuz operasyonuyla bağlantılı bir grup ChatGPT hesabını yasakladı. blog yazısı Cuma günü. Şirket, operasyonun yapay zeka tarafından oluşturulan makaleler ve sosyal medya gönderileri oluşturduğunu söylüyor, ancak çok fazla kitleye ulaşmış gibi görünmüyor.
Bu, OpenAI’nin ChatGPT’yi kötü niyetli bir şekilde kullanan devlet bağlantılı aktörlere bağlı hesapları yasakladığı ilk sefer değil. Şirket, Mayıs ayında beş kampanyayı bozdu kamuoyunu yönlendirmek için ChatGPT kullanımı.
Bu olaylar, devlet aktörlerinin Facebook ve Twitter gibi sosyal medya platformlarını kullanarak önceki seçim döngülerini etkilemeye çalışmasını hatırlatıyor. Şimdi benzer gruplar (ya da belki aynı olanlar) sosyal kanalları yanlış bilgilerle doldurmak için üretken AI kullanıyor. Sosyal medya şirketlerine benzer şekilde, OpenAI de bu çabalarla ilişkili hesapları ortaya çıktıkça yasaklayarak bir köstebek vurma yaklaşımı benimsiyor gibi görünüyor.
OpenAI, bu hesap kümesine ilişkin araştırmasının bir fayda sağladığını söylüyor Microsoft Tehdit İstihbaratı raporu Geçtiğimiz hafta yayınlanan bir raporda, grubun (kendilerine Storm-2035 adını verdikleri) 2020’den beri ABD seçimlerini etkilemek için yürütülen daha geniş kapsamlı bir kampanyanın parçası olduğu belirtiliyordu.
Microsoft, Storm-2035’in haber kuruluşlarını taklit eden ve “ABD başkan adayları, LGBTQ hakları ve İsrail-Hamas çatışması gibi konularda kutuplaştırıcı mesajlarla siyasi yelpazenin karşıt uçlarındaki ABD seçmen gruplarıyla aktif olarak etkileşim kuran” birden fazla siteye sahip bir İran ağı olduğunu söyledi. Diğer operasyonlarda da kanıtlandığı gibi oyun planı, mutlaka bir politikayı veya diğerini desteklemek değil, muhalefet ve çatışma ekmektir.
OpenAI, Storm-2035 için hem ilerici hem de muhafazakar haber kuruluşları olarak sunulan ve “evenpolitics.com” gibi ikna edici alan adlarına sahip beş web sitesi cephesi belirledi. Grup, Elon Musk’ın platformunun kesinlikle yapmadığı “X’in Trump’ın tweet’lerini sansürlediği” iddiasını içeren birkaç uzun biçimli makale taslağı hazırlamak için ChatGPT’yi kullandı (Musk, eski başkan Donald Trump’ı X konusunda daha fazla etkileşime girmeye teşvik ediyor).
Sosyal medyada OpenAI, bu operasyon tarafından kontrol edilen bir düzine X hesabı ve bir Instagram hesabı tespit etti. Şirket, ChatGPT’nin çeşitli siyasi yorumları yeniden yazmak için kullanıldığını ve daha sonra bu platformlarda yayınlandığını söylüyor. Bu tweetlerden biri, Kamala Harris’in “artan göç maliyetlerini” iklim değişikliğine bağladığını yanlış ve kafa karıştırıcı bir şekilde iddia etti, ardından “#DumpKamala” geldi.
OpenAI, Storm-2035’in makalelerinin yaygın olarak paylaşıldığına dair bir kanıt görmediğini ve sosyal medya gönderilerinin çoğunun çok az beğeni, paylaşım veya yorum aldığını belirtti. Bu durum, ChatGPT gibi AI araçları kullanılarak hızlı ve ucuz bir şekilde başlatılan bu operasyonlarda sıklıkla görülür. Seçim yaklaştıkça ve çevrimiçi partizan çekişmeleri yoğunlaştıkça bunun gibi daha birçok bildirim görmeyi bekleyin.