Microsoft, ABD’nin gergin ilişkileri olan bazı ülkelerin, büyük ölçekli siber saldırılar düzenleyerek ABD’ye saldırmak için Microsoft ve OpenAI’nin üretken yapay zeka araçlarını kullanmaya başladığını açıkladı
Teknoloji devi Microsoft, çarşamba günü yayınlanan bir açıklamada, aralarında İran, Kuzey Kore, Rusya ve Çin’in de bulunduğu ABD’nin bir dizi rakibinin, saldırgan siber operasyonları düzenlemek için üretken yapay zeka (AI) kullanmaya başladığını açıkladı.
Merkezi Redmond, Washington’da bulunan şirket, bu rakipler tarafından geliştirilen yapay zeka teknolojisini kullanan veya kullanmaya çalışan ortağı OpenAI ile işbirliği içinde tehditleri tespit ettiğini ve engellediğini açıkladı.
Bir blog gönderisine göre Microsoft, bu teknikleri “erken aşama” olarak tanımladı ve pek yenilikçi olmadığını ancak bunların kamuya açıklanmasının önemini vurguladı. Bu hamle, rakip ulusların ağları ihlal etme ve etkileme operasyonlarını yürütme yeteneklerini güçlendirmek için geniş dil modellerinden (LLM’ler) giderek daha fazla yararlandığı bir dönemde geldi.
İlgili Makaleler
Google Gemini, OpenAI GPT-4’teki ‘Hayaletler’: Uzmanlar, AI Modellerinin stüdyoların söylediğinden daha duyarlı olduğuna inanıyor
OpenAI’nin CEO’su Sam Altman, yapay zeka ve çip endüstrilerini altüst edecek yatırımlar olarak trilyonlarca doların peşinde
Siber güvenlik firmaları geleneksel olarak makine öğrenimini savunma amacıyla kullansa da, özellikle OpenAI’nin ChatGPT’sinin öncülüğünde yüksek lisans (LLM)’lerin ortaya çıkışı, savunucular ve kötü niyetli aktörler arasındaki kedi-fare oyununu yoğunlaştırdı.
OpenAI’ye önemli miktarda yatırım yapan Microsoft, duyurusu ile üretken yapay zekanın kötü amaçlı sosyal mühendisliği geliştirme potansiyelini vurgulayan ve daha karmaşık derin sahtekarlıklara ve ses klonlamaya yol açan bir raporun yayınlanmasıyla aynı zamana denk geldi. Bu durum, özellikle 50’den fazla ülkede yaklaşan seçimler göz önüne alındığında, demokratik süreçlere yönelik ciddi bir tehdit oluşturuyor.
Rapor, Microsoft’un üretken yapay zeka hesaplarını ve çeşitli grupların varlıklarını devre dışı bıraktığı örnekleri ayrıntılı olarak açıkladı. Buna, modelleri yabancı düşünce kuruluşlarını ve hedef odaklı kimlik avı saldırı kampanyalarını araştırmak için kullanan Kuzey Kore’nin siber casusluk grubu Kimsuky de dahildir.
Sosyal mühendislik, yazılım hatalarını gidermek ve ağ saldırılarından kaçınma taktiklerini incelemek için yüksek lisans eğitimlerinden yararlanan İran Devrim Muhafızları da işin içinde. Rus GRU askeri istihbarat birimi Fancy Bear, Ukrayna’daki çatışmayla ilgili uydu ve radar teknolojilerini araştırmaya odaklandı. Çin’in siber casusluk grupları Aquatic Panda ve Maverick Panda, yüksek lisans eğitimlerini kullanarak teknik operasyonlarını artırmanın yollarını araştırdı.
Ayrı bir açıklamada OpenAI, mevcut GPT-4 model sohbet robotunun, kötü amaçlı siber güvenlik görevleri için yapay zeka destekli olmayan araçların başarabileceğinin ötesinde sınırlı yetenekler sunduğunu belirtti. Ancak siber güvenlik araştırmacıları bu alanda ilerlemeler bekliyor.
ABD Siber Güvenlik ve Altyapı Güvenliği Ajansı direktörü Jen Easterly, daha önce Çin’in ve yapay zekanın oluşturduğu ikili tehditleri vurgulamış ve yapay zekanın güvenlik göz önünde bulundurularak geliştirilmesinin gerekliliğini vurgulamıştı.
Eleştirmenler, ChatGPT de dahil olmak üzere geniş dilli modellerin, güvenlik önlemleri yeterince dikkate alınmadan kamuya açıklanmasının aceleci ve sorumsuz olduğunu savunuyor. Bazı siber güvenlik uzmanları Microsoft’u, güvenlik açıklarını gidermek için savunma araçları satmak yerine LLM’lerin güvenliğini artırmaya odaklanmaya çağırıyor.
Uzmanlar, AI ve LLM’lerden kaynaklanan acil tehdit belirgin olmasa da, bunların her ulus devlet ordusunun cephaneliğinde potansiyel olarak güçlü silahlar haline gelebileceği konusunda uyarıyor.
(Kurumlardan gelen girdilerle)