Bir LLM’nin (Büyük Dil Modeli) yeni, özel olarak eğitilmiş bir versiyonu ortalıkta dolaşıyor, ancak bunun olası en kötü nedenleri var. Yaratıcısı tarafından vaftiz edildiği şekliyle WormGPT, 2021’de yayınlanan GPT-J dil modeline dayalı yeni bir konuşma aracıdır. yalnızca siyah şapka kodlaması ve araçları yazmak ve dağıtmak amacıyla eğitilmiş ve geliştirilmiştir. Sözü, kullanıcılarının daha önce gerekli olan maliyetin (ve bilginin) çok altında birinci sınıf kötü amaçlı yazılımlar geliştirmesine izin vermesidir. Araç, siber güvenlik ekibi SlashNext tarafından test edildi. kim bir blog gönderisinde uyardı “kötü niyetli aktörler artık ChatGPT’ye benzer, ancak hain amaçlar için kullanımı daha kolay olan kendi özel modüllerini oluşturuyor”. Hizmet, “uygun” bir aylık abonelik karşılığında alınabilir: ayda 60 Euro veya yılda 550 Euro. Millet, Bilgisayar korsanları bile Hizmet Olarak Yazılım’ı seviyor gibi görünüyor.
WormGPT geliştiricisine göre, “Bu proje, ChatGPT’ye, her türlü yasa dışı şeyi yapmanıza ve gelecekte kolayca çevrimiçi satmanıza olanak tanıyan bir alternatif sunmayı amaçlıyor. Aklınıza gelebilecek her şey WormGPT ile yapılabilir ve herkesin evinin rahatlığından ayrılmadan kötü niyetli faaliyetlere erişmesine olanak tanır.”
Demokratikleşme iyi ve güzel, ama kötü niyetli aktörlerin çoğalması ve güçlendirilmesi söz konusu olduğunda belki de en iyi halinde değil.
İçerik oluşturucu tarafından yayınlanan ekran görüntülerine göre, WormGPT esasen ChatGPT’nin korumasız bir sürümü gibi çalışıyor – ancak bir risk kokusuyla konuşmaları aktif olarak engellemeye çalışmayan bir sürüm. WormGPT, görünüşe göre Python’da yazılmış kötü amaçlı yazılım üretebilir ve kötü amaçlı yazılımın dağıtımıyla ilgili sorunlara ipuçları, stratejiler ve çözümler sağlar.
SlashNext’in araçla ilgili analizi rahatsız ediciydi. Aracıya, bir kurbanı hileli bir faturayı ödemeye zorlamayı amaçlayan bir e-posta oluşturması talimatını verdikten sonra, sonuçlar rahatsız ediciydi: WormGPT, yalnızca son derece ikna edici olmakla kalmayıp, aynı zamanda stratejik olarak kurnaz olan ve gelişmiş kimlik avı ve BEC potansiyelini sergileyen bir e-posta üretti. [Business Email Compromise] saldırılar.”
Birinin açık kaynaklı Yapay Zeka (AI) modellerine sahip olmanın tüm güzel yanlarını alıp onları tersine çevirmesi an meselesiydi. Sohbet benzeri bir yapay zeka asistanına (sana bakıyor, BratGPT) esprili, kendini beğenmiş yaklaşımlar geliştirmek bir şeydir. Dark Web’in belirli dilleri ve gizlemeleri üzerine eğitilmiş bir konuşma modeli geliştirmek henüz başka bir şey. Ancak ChatGPT’nin dünyaca ünlü programlama becerilerini dönüştürmek ve bunları yalnızca yapay zeka ile yazılmış kötü amaçlı yazılımların geliştirilmesine uygulamak tamamen başka bir şeydir.
Elbette, WormGPT’nin gerçek bir bal küpü olması ve bunlar gibi bir AI aracısını işlevsel kötü amaçlı yazılım oluşturmak için eğitmesi teorik olarak da mümkün olacaktır. bu her zaman yakalanır ve göndericisini tanımlamayı garanti eder. WormGPT’de olanın bu olduğunu söylemiyoruz ama bu mümkün. Bu nedenle, onu kullanan herkes kodlarını her seferinde bir satır kontrol etse iyi olur.
Bu özel olarak geliştirilmiş yapay zeka aracıları söz konusu olduğunda, çok azının (varsa) OpenAI’nin ChatGPT’sinden beklediklerimizin yanı sıra genel yetenekler göstereceğini not etmek önemlidir. Teknikler ve araçlar son derece gelişmiş olsa da, uygun finansman (ve veriler) olmadan bir yapay zeka aracısını eğitmek hâlâ pahalı ve zaman alıcı bir çaba. Ancak şu bir gerçektir ki şirketler yapay zeka altına hücum etmeye doğru hızla ilerlerken maliyetler düşmeye devam edecek, veri kümeleri ve eğitim yöntemleri gelişecek ve WormGPT ve BratGPT gibi özel yapay zeka ajansları giderek daha yetkin bir şekilde ortaya çıkmaya devam edecek.
WormGPT, genel kabul gören bu türden ilk sistem olabilir, ancak kesinlikle son olmayacak.
