Birçok kullanıcı için sosyal medya haber akışlarına ve bildirimlerine göz atmak çamurda yürümek gibidir. Ne için ? İşte bir cevap. A yeni çalışma X’te (eski adıyla Twitter) kripto para birimi ve blockchain konularında yanlış bilgi yayan 1.140 yapay zeka destekli botu tespit ediyor.
Ancak araştırmacılar, bu tür içerik yayınlayan bot hesaplarının tespit edilmesinin zor olabileceğini buldu. Bot hesapları, içeriklerini oluşturmak için ChatGPT’yi kullanıyor ve gerçek hesaplardan ayırt edilmesi zor, bu da uygulamayı mağdurlar için daha da tehlikeli hale getiriyor.
Yapay zeka destekli bot hesapları, profil resimleri, biyografiler veya kripto ve blockchain ile ilgili açıklamalar içeren, gerçek insanlara benzeyen profillere sahiptir. Düzenli olarak yapay zeka tarafından oluşturulan gönderiler yayınlıyor, çalıntı görüntüler yayınlıyor, gönderilere yanıt veriyor ve bunları yeniden tweetliyorlar.
Araştırmacılar, 1.140 Twitter bot hesabının “fox8” adını verdikleri aynı kötü amaçlı sosyal botnet’e ait olduğunu buldu. Ya bot zombilerden oluşan bir ağ, yani siber suçlular tarafından merkezi olarak kontrol edilen bir hesap ağı.
Üretken yapay zeka robotları giderek daha fazla insan davranışlarını taklit ediyor. Bu da Botometer gibi geleneksel bot tespit araçlarının artık yetersiz kaldığı anlamına geliyor. Araştırmada bu araçlar, bot tarafından oluşturulan içeriği insan tarafından oluşturulan içerikten tanımlamaya ve ayırmaya çalıştı. Ancak içlerinden biri öne çıktı: OpenAI’nin yapay zeka sınıflandırıcısıbazı bot tweet’lerini tespit edebildi.
Bot hesapları nasıl tespit edilir?
Twitter’daki bot hesapları da benzer davranışlar sergiliyor. Birbirlerini takip ediyorlar, aynı bağlantıları ve etiketleri kullanıyorlar, benzer içerik yayınlıyorlar ve hatta birbirleriyle etkileşime giriyorlar.
Araştırmacılar AI bot hesaplarından gelen tweetleri taradı ve 1.205 açıklayıcı tweet buldu.
Bu toplamın %81’i aynı özür dileyen ifadeyi içeriyordu:
“Üzgünüm ama OpenAI’nin zararlı veya uygunsuz içerik üretmeye ilişkin İçerik Politikasını ihlal ettiği için bu talebe yanıt veremiyorum. Bir yapay zeka dil modeli olarak yanıtlarım her zaman tüm izleyicilere saygılı ve uygun olmalıdır.
Bunun yerine bu ifadenin kullanılması, botlara OpenAI politikalarına aykırı zararlı içerik üretme talimatı verildiğini gösteriyor.
Geriye kalan %19’luk kesim “Yapay zeka dil modeli olarak” dilinin bir çeşidini kullandı ve %12’si özellikle “Yapay zeka dil modeli olarak Twitter’a göz atamıyorum veya yanıt sağlamak için belirli tweet’lere erişemiyorum” dedi.
Bir başka ipucu da, bu robotlar tarafından gönderilen tweetlerin %3’ünün üç web sitesinden birine (cryptnomics.org, fox8.news ve globalconomics.news) bağlantı vermesidir.
Bu siteler normal haber sitelerine benziyor ancak hepsinin Şubat 2023’te aynı zamanlarda kayıtlı olması, kullanıcıları şüpheli yazılım yüklemeye yönlendiren pop-up’ların olması ve hepsinin kullandığı gibi dikkate değer tehlike işaretleri var. aynı WordPress temasına sahip olması ve etki alanlarının aynı IP adresini işaret etmesi.
Kötü amaçlı bot hesapları, kötü amaçlı yazılım veya bulaşıcı içerik içeren bağlantılar yayınlayarak, kullanıcının kişilerini istismar ederek ve bulaştırarak, kullanıcıların tarayıcılarından ve kullanıcılarından oturum çerezlerini çalarak ve takip isteklerini otomatikleştirerek sosyal medyanın kendi kendine yayılma tekniklerini kullanabilir.
Kaynak : “ZDNet.com”