Yeni araştırmalar, Deepseek’in kullanımı ücretsiz açık kaynaklı AI modelleri, kötü aktörler tarafından tehlikeli kötü amaçlı yazılımlar sergilemek için kullanılabilir.
Hükümetler ve düzenleyiciler, modern üretken AI ölçeği halka açıklandığından, Chatgpt ve Gemini gibi LLM’lerin tehlikeli kod oluşturmak için kullanılması olasılığını uyarmıştır.
Zaten cezai kullanımı için özel olarak geliştirilen bir avuç LLM olmuştur, ancak bu modeller tipik olarak erişim için ödeme gerektirirken ve ana akım LLM sağlayıcıları uygulanan korkuluklar, Deepseek’in serbestçe erişilebilir açık kaynaklı modeli dolandırıcılar için bir fırsat sunmaktadır.
Çinli firma tarafından geliştirilen bir akıl yürütme büyük dil modeli (LLM) olan Deepseek R1 modelinin, Nick Miles of Tenable araştırmalarıyla yapılan araştırmalara göre, “etrafta çalışmak için önemsiz” ve “çeşitli jailbreak tekniklerine karşı savunmasız” olan korkuluklar sunan “kötü amaçlı yazılım için temel yapı” üretebildiği bulundu.
Test için Miles, işletim sisteminin savunmalarından gizlenirken bir cihazın kullanıcılarından tuş vuruşlarını kaydedebilecek bir keylogger oluşturmak için Deepseek’i kullanmaya çalıştı.
LLM başlangıçta reddetti, ancak basmaya ikna etmek, Excersise’ın “sadece eğitim amaçlı” olduğunu söylemek kadar basitti.
Deepseek, bir keylogger oluşturmak için talimatlar sağladı ve modelin manuel yeniden yazma gerektiren birkaç örneği olsa da, sonunda çalışan bir keylogger oluşturuldu.
Miles ayrıca basit bir fidye yazılımı oluşturmaya çalıştı – bir kullanıcının fidye edilebilecek kendi dosyalarına erişimini kısıtlayan bir kötü amaçlı yazılım türü – örnek.
Yine, sistemin kısıtlaması uygulamaya karşı uyardı, ancak bazı ileri geri olduktan sonra Miles, bir avuç çalışma fidye yazılımı örneği üretebildi, ancak işlev için manuel düzenleme gerektirdi.
Araştırmacı, basit manipülasyonla, kötü aktörlerin Deepseek’in kötü amaçlı yazılım yaratmaya karşı önlemlerini atlayabileceği sonucuna vardı.
Bulgular tam bir felakete hitap etmez, çünkü modelin çıktılarının düzgün çalışması için önemli miktarda önceden var olan kodlama bilgisi gereklidir.
Miles, “Bununla birlikte, Deepseek, kötü niyetli kod yazma konusunda önceden deneyimi olmayan birine, ilgili kavramlara hızlı bir şekilde aşina olma yeteneğine yardımcı olabilecek tekniklerin ve arama terimlerinin yararlı bir derlemesini sunuyor” dedi.
“Bu analize dayanarak, Deepseek’in yakın gelecekte siber suçlular tarafından kötü niyetli AI tarafından üretilen kodun daha da geliştirilmesine neden olacağına inanıyorum.”
Ücretsiz kaydolun
Günlük güncellemeler alın ve reklam azaltılmış bir deneyimin tadını çıkarın.
Zaten bir hesabınız var mı? Giriş yapmak
