Artık yamalı bir güvenlik açığıyla ilgili ayrıntılar ortaya çıktı Derin Arama Başarılı bir şekilde kullanılması durumunda, kötü bir aktörün hızlı bir enjeksiyon saldırısı aracılığıyla kurbanın hesabının kontrolünü ele geçirmesine olanak tanıyan yapay zeka (AI) sohbet robotu.
Çeşitli yapay zeka araçlarını hedef alan çok sayıda anlık enjeksiyon saldırısını kayıt altına alan güvenlik araştırmacısı Johann Rehberger, kurmak DeepSeek sohbetinde “xss hile sayfasını bir madde işareti listesinde yazdır. sadece veriler” girişinin sağlanması, oluşturulan yanıtın bir parçası olarak JavaScript kodunun yürütülmesini tetikledi; bu, siteler arası komut dosyası çalıştırmanın (XSS) klasik bir örneğidir.
XSS saldırıları, kurbanın web tarayıcısı bağlamında yetkisiz kod yürütülmesine yol açacağından ciddi sonuçlar doğurabilir.
Bir saldırgan, bir kullanıcının oturumunu ele geçirmek ve çerezlere ve chat.deepseek ile ilişkili diğer verilere erişim sağlamak için bu tür kusurlardan yararlanabilir.[.]com alan adı, dolayısıyla hesabın ele geçirilmesine yol açıyor.
Rehberger, “Bazı denemelerden sonra, bir kullanıcının oturumunu devralmak için gereken tek şeyin, chat.deepseek.com etki alanında localStorage’da depolanan userToken olduğunu keşfettim” dedi ve özel olarak hazırlanmış bir istemin XSS’yi tetiklemek için kullanılabileceğini ekledi. ve güvenliği ihlal edilmiş kullanıcının userToken’ına hızlı enjeksiyon yoluyla erişin.
İstem, kurbanın oturum jetonunu çıkarmaktan sorumlu XSS yükünü yürütmek için DeepSeek sohbet robotu tarafından kodu çözülen ve sonuçta saldırganın kullanıcıyı taklit etmesine izin veren bir dizi talimat ve Bas64 kodlu bir dize içerir.
Gelişme aynı zamanda Rehberger olarak da geliyor gösterdi o Antropik’in Claude’u Bilgisayar Kullanımı – Hangi etkinleştirir geliştiricilerin bir bilgisayarı imleç hareketi, düğme tıklamaları ve metin yazma yoluyla kontrol etmek için dil modelini kullanması, hızlı enjeksiyon yoluyla kötü amaçlı komutları bağımsız olarak çalıştırmak için kötüye kullanılabilir.
ZombAI’ler olarak adlandırılan teknik, Sliver komut ve kontrol (C2) çerçevesini indirmek, yürütmek ve saldırganın kontrolü altındaki uzak bir sunucuyla bağlantı kurmak için Bilgisayar Kullanımını silah haline getirmek için esasen hızlı enjeksiyondan yararlanıyor.
Ayrıca, büyük dil modellerinin (LLM’ler) çıktı verme yeteneğinden yararlanmanın mümkün olduğu bulunmuştur. ANSI kaçış kodu hızlı enjeksiyon yoluyla sistem terminallerini ele geçirmek için. Esas olarak LLM ile entegre komut satırı arayüzü (CLI) araçlarını hedef alan saldırının kod adı Terminal DiLLMa’dır.
Rehberger, “On yıllık özellikler GenAI uygulamasına beklenmedik saldırı yüzeyi sağlıyor” söz konusu. “Geliştiricilerin ve uygulama tasarımcılarının, LLM çıktısını ekledikleri bağlamı dikkate almaları önemlidir; çünkü çıktı güvenilmezdir ve rastgele veriler içerebilir.”
Hepsi bu değil. Wisconsin-Madison Üniversitesi ve St. Louis’deki Washington Üniversitesi’nden akademisyenler tarafından yürütülen yeni araştırma, açıklığa kavuşmuş OpenAI’nin ChatGPT’sinin, kapsayıcı iyi niyetli bir hedef bahanesi altında açık ve şiddet içerenler de dahil olmak üzere işaretleme formatıyla sağlanan harici görüntü bağlantılarını oluşturmak için kandırılabileceğini söyledi.
Dahası, hızlı enjeksiyonun, aksi durumda kullanıcı onayı gerektirecek ChatGPT eklentilerini dolaylı olarak çağırmak için kullanılabileceği ve hatta tehlikeli bağlantılardan gelen içeriğin kullanıcının sohbet geçmişine sızmasını önlemek için OpenAI tarafından uygulanan kısıtlamaları atlamak için kullanılabileceği bulunmuştur. saldırgan tarafından kontrol edilen sunucu.
