Program yayıncısı OpenAI, Rusya, Çin, İran ve İsrail’in sahte yorumlar ve haber makaleleri oluşturmak için üretken AI ChatGPT’yi kullandığını iddia ediyor.
Amerikan firması OpenAI resmi blogunda Rusya’dan gelen bilgilerin büyük ölçüde kötüye kullanıldığı en az iki vaka tespit edildi. Çin’in yazılımı kullanılarak gerçekleştirilen manipülasyonlar. Diğer benzer yanlışlar İran’a ve İsrail’in düzenlediği bir dezenformasyon dalgasına atfediliyor. Tüm bu propaganda eylemlerinin ortak bir yanı var: OpenAI teknolojisinin kullanılması. Sahte sosyal medya gönderileri oluşturmak, uydurma haber makalelerini ve yanıltıcı başlıkları başka bir dile tercüme etmek ve düzenlemek için kullanılır. Yazılım aynı zamanda bu sahte içeriğin gönderilmesini otomatikleştirecek bilgisayar programları oluşturmak için de kullanılıyor.
Seçim dönemlerinde yapay zekanın nüfuz ticareti
Bu dezenformasyon operasyonlarının temel amacı, seçim sürecine dahil olan ulusların siyasi istikrarsızlaştırılmasıdır. Ancak Siber Güvenlik Operasyonları Direktörü Francois Deruty, amacın uzun vadede ekonomik avantaj elde etmek olduğunu açıklıyor. Sekoia io. Fransa’da kurulan bu şirket, yeteneklerini geliştirme misyonuna sahiptir. Avrupa dijital korumasıyabancı güçler tarafından başlatılacak dezenformasyon girişimlerine karşı koyma konusu da dahil: “ Devletin çevrimiçi siyasi istikrarsızlaştırmaya yönelik girişimleri giderek daha fazla üretken yapay zeka kullanıyor. Ancak bu nüfuz ticaretinin, anında siyasi avantajlar elde etmenin yanı sıra ekonomik amaçları da var. Örneğin Moldova’da yıl sonunda yapılacak başkanlık seçimi, Ukrayna’da yol açtığı çatışma nedeniyle Rusya için son derece önemli. “, açıklıyor.
“ Kremlin kesinlikle Odessa’yı kazanmak ve çevredeki tüm yarımadayı fethetmek istiyor. Eğer Moldova bir sonraki başkanlık seçimlerinde Rusya yanlısı tarafa geçerse, Moskova denize tam erişime sahip olacak ve böylece buğday ve tahıl ihracatının büyük bir kısmını kontrol edebilecek. Ve Rusya’nın Moldova’da yürüttüğü çevrimiçi etki, her Avrupa vatandaşının günlük yaşamında çok somut sonuçlar doğurabilir. »
OpenAI, ChatGPT’yi kullanan bu etki kampanyalarını analiz etti
Örneğin, Rusya’nın başlattığı Doppelgänger adlı operasyon, bazı Avrupa folklorunda kişinin kötü ikizini ifade eden terimdir. Kremlin, Ukrayna karşıtı yorumlar üretmek ve Ukrayna’ya yönelik saldırganlığını haklı çıkaran Fransızca, Almanca ve Lehçe sahte makaleler yayınlamak için OpenAI’nin programını kullandı. ChatGPT ayrıca bu propagandayı şifreli Telegram mesajlaşmasında otomatik olarak yaymak için bir BT aracı geliştirmek için de kullanıldı.
🚨🇫🇷🇪🇺🇷🇺 Dün gece tespit ettiğim Doppelgänger operasyonu beklenenden daha büyük görünüyor.
Rusya’nın bu nüfuz operasyonu şu anda Paris Olimpiyat Oyunlarını, AB’yi, Ukrayna’yı, Macron’u ve Yeni Kaledonya’yı hedef alıyor.
Seni bilgilendireceğim. pic.twitter.com/PHmpAhScWJ
— Rastgele OSINT (@osint_random) 24 Mayıs 2024
Başka bir örnek, kampanya Spam gönderme Kökeni Çin’e atfedilen ve daha sonra bunu hükümet yanlısı bir karşı söylem oluşturmak amacıyla sosyal ağlardaki yayınları analiz etmek için kullanan 2023 tarihli bir rapor. İran tarafında da aynı gözlem! Üretken yapay zeka, İsrail ve ABD aleyhine rejim yanlısı makaleleri ve manşetleri yayınlamak veya tercüme etmek için kullanıldı. Yahudi devleti ayrıca, hayali insanlar yaratmaktan oluşan Zero Zeno adlı bir dezenformasyon kampanyasının parçası olarak ChatGPT’ye de güveniyordu. Bu sahte İnternet kullanıcıları, Amerika Birleşik Devletleri, Kanada ve aynı zamanda İsrail’deki çevrimiçi hesaplarda İslam karşıtı mesajların yayınlanmasından sorumluydu.
Ancak OpenAI, raporunda İnternet kullanıcılarının bunların dezenformasyon kampanyaları olduğunu kolaylıkla tespit edebileceğini açıklayarak bu etki operasyonlarının kapsamını en aza indirmeye çalışıyor.