Microsoft ve OpenAI bugün, bilgisayar korsanlarının mevcut siber saldırılarını iyileştirmek ve iyileştirmek için halihazırda ChatGPT gibi büyük dil modellerini kullandıklarını ortaya koyuyor. Yeni yayınlanan araştırmalarda Microsoft ve OpenAI, Rus, Kuzey Kore, İran ve Çin destekli grupların, hedefleri araştırmak, komut dosyalarını geliştirmek ve sosyal mühendislik teknikleri oluşturmaya yardımcı olmak için ChatGPT gibi araçları kullanma girişimlerini tespit etti.
Microsoft, “Siber suç grupları, ulus devlet tehdit aktörleri ve diğer düşmanlar, operasyonları için potansiyel değeri ve aşmaları gerekebilecek güvenlik kontrollerini anlamak amacıyla farklı yapay zeka teknolojilerini ortaya çıktıkça araştırıyor ve test ediyor” dedi. bugün blog yazısı.
Rus askeri istihbaratına bağlı Stronsiyum grubunun, “uydu iletişim protokollerini, radar görüntüleme teknolojilerini ve belirli teknik parametreleri anlamak için” yüksek lisans eğitimlerini kullandığı ortaya çıktı. APT28 veya Fancy Bear olarak da bilinen bilgisayar korsanlığı grubu, Rusya’nın Ukrayna’daki savaşı sırasında aktifti ve daha önce Hillary Clinton’ın 2016’daki başkanlık kampanyasını hedef alıyordu.
Grup ayrıca Microsoft’a göre “teknik işlemleri potansiyel olarak otomatikleştirmek veya optimize etmek için dosya işleme, veri seçimi, düzenli ifadeler ve çoklu işleme dahil olmak üzere temel komut dosyası oluşturma görevlerine” yardımcı olmak için Yüksek Lisans’ı kullanıyor.
Thallium olarak bilinen Kuzey Koreli bir bilgisayar korsanlığı grubu, kamuya bildirilen güvenlik açıklarını araştırmak ve kuruluşları hedef almak, temel komut dosyası yazma görevlerine yardımcı olmak ve kimlik avı kampanyaları için içerik taslağı hazırlamak için LLM’leri kullanıyor. Microsoft, Curium olarak bilinen İranlı grubun aynı zamanda kimlik avı e-postaları oluşturmak ve hatta antivirüs uygulamaları tarafından tespit edilmekten kaçınmak için kod oluşturmak için LLM’leri kullandığını söylüyor. Çin devletine bağlı bilgisayar korsanları aynı zamanda yüksek lisans eğitimlerini araştırma, metin yazma, çeviri ve mevcut araçlarını geliştirmek için de kullanıyor.
Özellikle WormGPT ve FraudGPT gibi yapay zeka araçlarının siber saldırılarda kullanılmasına ilişkin korkular mevcut. ortaya çıkan Kötü amaçlı e-postaların ve kırma araçlarının oluşturulmasına yardımcı olmak. Ulusal Güvenlik Teşkilatı’ndan üst düzey bir yetkili de geçen ay uyarılmıştı Bilgisayar korsanlarının kimlik avı e-postalarının daha inandırıcı görünmesini sağlamak için yapay zekayı kullandığını biliyoruz.
Microsoft ve OpenAI henüz LLM’leri kullanan herhangi bir “önemli saldırı” tespit etmedi, ancak şirketler bu bilgisayar korsanlığı gruplarıyla ilişkili tüm hesapları ve varlıkları kapatıyor. “Aynı zamanda, tanınmış tehdit aktörlerinin girişimde bulunduğunu gözlemlediğimiz erken aşamadaki, artan hareketleri açığa çıkarmak ve bunları nasıl engellediğimize ve savunma topluluğuyla nasıl karşı koyduğumuza ilişkin bilgileri paylaşmak için bunun yayınlanmasının önemli bir araştırma olduğunu düşünüyoruz” diyor Microsoft.
Yapay zekanın siber saldırılarda kullanımı şu anda sınırlı gibi görünse de Microsoft, ses kimliğine bürünme gibi gelecekteki kullanım durumları konusunda uyarıyor. “Yapay zeka destekli dolandırıcılık bir başka kritik sorundur. Ses sentezi bunun bir örneğidir; üç saniyelik bir ses örneğinin bir modeli herkes gibi ses çıkaracak şekilde eğitebilmesidir” diyor Microsoft. “Sesli mesaj selamlamanız kadar zararsız bir şey bile yeterli örnekleme elde etmek için kullanılabilir.”
Doğal olarak Microsoft’un çözümü, yapay zeka saldırılarına yanıt vermek için yapay zekayı kullanıyor. Microsoft’un baş algılama analitiği yöneticisi Homa Hayatyfar, “Yapay zeka, saldırganların saldırılarına daha fazla karmaşıklık getirmesine yardımcı olabilir ve bu konuda kullanabilecekleri kaynaklara sahipler” diyor. “Bunu Microsoft’un takip ettiği 300’den fazla tehdit aktöründe gördük ve korumak, tespit etmek ve yanıt vermek için yapay zekayı kullanıyoruz.”
Microsoft, siber güvenlik profesyonellerinin ihlalleri belirlemesi ve siber güvenlik araçları aracılığıyla günlük olarak üretilen büyük miktardaki sinyal ve verileri daha iyi anlaması için tasarlanmış yeni bir yapay zeka asistanı olan Güvenlik Yardımcı Pilotu’nu geliştiriyor. Yazılım devi, büyük Azure bulut saldırılarının ve hatta Rus bilgisayar korsanlarının Microsoft yöneticilerini gözetlemesinin ardından yazılım güvenliğini de elden geçiriyor.