Yapay Zeka Becerilerinde Güvenlik Tehditleri
Son yapılan bir araştırma, yapay zeka kodlama ajanları için kötü amaçlı eklentilerin doğru bir şekilde tespit edilemediğini ortaya koydu. Bu durum, hem bireysel kullanıcılar hem de işletmeler için ciddi bir güvenlik riski oluşturuyor.
Saldırı Nasıl Çalışıyor?
Araştırmacılar, kötü amaçlı bir becerinin temiz görünen bir şekilde yeniden yazılmasını sağlayan SKILLCLOAK adında bir araç geliştirdi. Bu araç, iki yöntemle çalışıyor:
- Küçük değişiklikler yaparak tarayıcıların dikkatini çekmeyen bir yapıya sokuyor, örneğin, bir karakteri başka bir alfabeden alakasız bir karakterle değiştirmek veya kodu yeni satırlara dağıtarak tarayıcının kalıplarını aşmayı sağlıyor.
- Daha karmaşık olan yöntemde, tüm yük boş bir dizine taşınıyor ve tarayıcı tarafından atlanan bir
.git/dizininde saklanıyor. Bu şekilde, beceri yalnızca ajan çalıştırıldığında tehlikeli kodu açığa çıkarıyor.
Araştırma verilerine göre, bu teknik 1,613 gerçek kötü amaçlı beceri üzerinde denendiğinde sekiz tarayıcının her birinden %90’dan fazla başarı ile geçti. Ek olarak, yeniden yazma yöntemi çoğu tarayıcıda %80’in üzerinde bir başarı oranı sağladı.
Etkilenen Sistemler
Kötü amaçlı beceriler, hem kişisel hem de ticari sistemlerde, aşağıdaki riskleri taşımaktadır:
- Kimlik bilgilerinin çalınması
- Kaynak kodunun kopyalanması
- Geri kapı (backdoor) yüklenmesi
Ayrıca, kamu pazarlarında, kullanıcılar tarafından yüklenen becerilerin çoğu yeterince denetlenmemektedir, bu da riski artırmaktadır.
Çözüm ve Korunma
Araştırmacılar, davranışları analiz eden bir araç önerdi: SKILLDETONATE. Bu araç, beceriyi bir sanal ortamda çalıştırarak aşağıdaki bilgileri izler:
- Hangi dosyaları okur veya yazar
- Verileri nereye gönderir
Bu yöntemin de bazı dezavantajları bulunuyor; tarayıcıların birkaç saniyede gerçekleştirdiği tespiti, SKILLDETONATE birkaç dakika sürebiliyor. Bununla birlikte, bu yaklaşım, kötü niyetli kodların tespit edilme oranını önemli ölçüde artırmaktadır.
Ayrıca, bazı öneriler de sunuldu:
- Beceri yüklendikten sonra dosyaları yeniden kontrol etmek
- Tarayıcıların atladığı dizinlerde şüpheli dosyalar aramak
- Beklenenden fazla büyük veya yüksek entropili dosyaları göz önünde bulundurmak
Sonuç
Yazılım ve siber güvenlik ekipleri için, kötü amaçlı becerilerin tespiti ve korunması kritik öneme sahiptir. Kullanıcıların alması gereken önlemler şunlardır:
- Yalnızca güvenilir kaynaklardan yazılım yükleyin.
- Ajanlara ihtiyaç duydukları en az erişimi verin.
- Gizli bilgilerin bulunduğu makinelerde onları çalıştırmaktan kaçının.
Bu önerilere uyarak, kullanıcılar kötü amaçlı yazılım ve saldırılara karşı daha güvenli bir duruş sergileyebilirler.
