Cuma günü Openai açıklığa kavuşmuş Şüpheli bir yapay zeka (AI) destekli gözetim aracı geliştirmek için chatgpt aracını kullanan bir dizi hesabı yasakladı.
Sosyal medya dinleme aracının büyük olasılıkla Çin’den geldiği ve Meta’dan biriyle güçlendirildiği söyleniyor. Lama Modellerisöz konusu hesaplar, AI şirketinin modellerini kullanan ve Batı’daki Çin karşıtı protestolar hakkında gerçek zamanlı veri ve raporlar toplayabilen ve bilgileri Çin yetkilileriyle paylaşabilen bir cihaz için belgeleri analiz etmek için.
Araştırmacılar Ben Nimmo, Albert Zhang, Matthew Richard ve Nathaniel Hartley, “ağın gözetim araçlarını teşvik etme ve gözden geçirmedeki davranışı” nedeniyle kampanya, “ağın gözetim araçlarını teşvik etme ve gözden geçirme” nedeniyle kodlandı. X, Facebook, YouTube, Instagram, Telegram ve Reddit gibi.
Şirket tarafından işaretlenen bir örnekte, aktörler, “Qianyue Yurtdışı Kamuoyu AI asistanı” olarak adlandırılan izleme yazılımını çalıştırdığına inanılan kaynak kodunu hata ayıklamak ve değiştirmek için chatgpt kullandılar.
Modelini, Amerika Birleşik Devletleri’ndeki düşünce kuruluşları ve Avustralya, Kamboçya ve Amerika Birleşik Devletleri gibi ülkelerdeki hükümet yetkilileri ve politikacılar hakkında kamuya açık bilgileri ortaya çıkarmak için bir araştırma aracı olarak kullanmanın yanı sıra, kümenin de ChatGPT erişiminden yararlandığı bulunmuştur, İngilizce belgelerin ekran görüntülerini çevirin ve analiz edin.
Bazı görüntüler çeşitli batı şehirlerinde Uygur hakları protestolarının duyurularıydı ve muhtemelen sosyal medyadan kopyalandı. Şu anda bu görüntülerin otantik olup olmadığı bilinmemektedir.
Openai ayrıca ChatGPT’yi çeşitli kötü niyetli etkinlikler için kötüye kullanan diğer kümeleri de bozduğunu söyledi –
- Aldatıcı istihdam şeması – Kuzey Kore’den bir ağ, özgeçmişler, çevrimiçi iş profilleri ve kapak mektupları gibi hayali iş başvuruları için kişisel belgelerin oluşturulmasında yer alan hileli BT işçisi şemasına bağlı bir ağın yanı sıra, olağandışı davranışları açıklamak için ikna edici yanıtlar ortaya çıktı. Video görüşmelerinden kaçınmak, yetkisiz ülkelerden kurumsal sistemlere erişmek veya düzensiz saatler çalışmak. Daha sonra sahte iş uygulamaları LinkedIn’de paylaşıldı.
- Sponsorlu Hoşnutsuzluk – İspanyolca İngilizce ve uzun biçimli makalelerde ABD’yi eleştiren ve daha sonra Peru, Meksika ve Ekvador’daki Latin Amerika Haber Web Siteleri tarafından yayınlanan Çin kökenli Çin kökenli bir ağ. Etkinliğin bir kısmı, spamouflage olarak adlandırılan bilinen bir etkinlik kümesiyle örtüşmektedir.
- Romantizm-Baiting Scam – Şüpheli Kamboçya-Origin romantizm ve yatırım dolandırıcılığı ile bağlantılı olarak Facebook, X ve Instagram dahil sosyal medya platformlarında yayınlamak için Japonca, Çince ve İngilizce’de yorumların çeviri ve üretiminde yer alan bir hesap ağı.
- İran Etkisi Nexus -Pilistinli, Hamas yanlısı ve İran yanlısı ve İsrail karşıtı ve anti-ABD’dir ve İran etkisi ile ilişkili web sitelerinde paylaşılan X direklerinin ve makalelerin üretilmesinde yer alan beş hesaptan oluşan bir ağı Operasyonlar Uluslararası Sanal Medya Birliği (IUVM) ve Storm-201035 olarak izlendi. Yasaklı hesaplar arasında biri, “daha önce bildirilmemiş bir ilişkinin” göstergesi olan her iki işlem için de içerik oluşturmak için kullanıldı.
- Kimuky ve Bluenoroff -Siber saldırı araçları ve kripto para birimi ile ilgili konularla ilgili bilgilerin toplanmasına katılan Kuzey Koreli tehdit aktörleri tarafından işletilen bir hesap ağı ve uzak masaüstü protokolü (RDP) Brute-Force saldırıları için kodu hata ayıklama kodu
- Gençlik Girişimi Gizli Etki Operasyonu – “Gana Gana” adlı bir web sitesi için İngilizce makalelerin oluşturulmasına katılan bir hesap ağı ve Gana başkanlık seçimlerini hedefleyen sosyal medya yorumları
- Görev dolandırıcılığı – Urduca ve İngilizce arasındaki yorumların çevirisinde yer alan bir hesap ağı, sahtekarlık Şüphesiz insanları, var olmayan bir komisyon kazanma karşılığında, kurbanların kendi paralarıyla ayrılmasını gerektiren erişim karşılığında basit görevleri (örneğin, videoları sevme veya inceleme yazma) işlere çeker.
Geliştirme, AI araçlarının kötü aktörler tarafından giderek daha fazla kullanıldığı için geliyor. Siber etkin dezenformasyon kampanyaları ve diğer kötü amaçlı işlemler.
Geçen ay, Google Tehdit İstihbarat Grubu (GTIG), Çin, İran, Kuzey Kore ve Rusya ile bağları olan 57’den fazla farklı tehdit aktörünün, saldırı döngüsünün birden fazla aşamasını iyileştirmek ve topikal olaylara araştırma yapmak için kullandıklarını veya İçerik oluşturma, çeviri ve yerelleştirme yapın.
Openai, “AI şirketlerinin tehdit aktörlerinden çıkarabileceği benzersiz bilgiler, barındırma ve yazılım geliştiricileri, sosyal medya şirketleri gibi aşağı yönlü dağıtım platformları ve açık kaynaklı araştırmacılar gibi yukarı akış sağlayıcılarıyla paylaşılıyorsa özellikle değerlidir.” Dedi.
Diyerek şöyle devam etti: “Aynı şekilde, yukarı akış ve aşağı yönlü sağlayıcıların ve araştırmacıların tehdit aktörlerine yaptıkları yeni tespit ve uygulama yolları açtıkları anlayışları.”
