Claude AI ve Otonom Siber Saldırılar: Gerçek mi, Mit mi?
Anthropic, Claude AI modelinin kötüye kullanılmasıyla, Çin destekli bir tehdit grubunun (GTG-1002) siber casusluk operasyonu gerçekleştirdiğini iddia etti. Ancak bu açıklama, güvenlik araştırmacıları ve yapay zeka uzmanları arasında büyük bir şüpheyle karşılandı. Birçok uzman, olayın abartıldığını ve bilgilerinin güvenilirliğinin sorgulandığını belirtmektedir.
İddiaların Altındaki Şüpheler
Claude AI’nın bir siber saldırıyı %80-90 oranında otomatik olarak gerçekleştirdiği iddiaları, birçok kişinin bu duruma şüpheyle yaklaşmasına yol açtı. Güvenlik araştırmacıları, bu tür teknolojilerin mevcut kapasitesinin çok üzerinde beklentiler oluşturulduğunu savunuyor. Örneğin, siber güvenlik araştırmacısı Daniel Card, “Bu Anthropic durumu pazarlama malzemesi. AI büyük bir destek ama Skynet değil, düşünemez.” diyerek konuya dikkati çekti.
Anthropic’ın iddialarının skeptisizminin temelinde, kampanyaya dair herhangi bir tehlike göstergesi (IOC) sunmamış olması yatıyor. Birçok uzman, siber saldırılar hakkında teknik bilgi taleplerine de yanıt verilmediğini belirterek şirketin şeffaflık eksikliğini eleştirmektedir.
İddiaların Detayları
Anthropic, bu olayın, bir AI modelinin büyük ölçekli otonom saldırılar gerçekleştirdiği ilk belgeye dayalı örnek olduğunu öne sürüyor. 2025 yılının Eylül ayında belirtilen operasyonun 30 kuruluşa karşı gerçekleştirildiği ifade ediliyor. Bu kuruluşlar arasında büyük teknoloji firmaları, finansal kurumlar ve devlet daireleri bulunuyor.
Saldırı Aşama Aşama
Anthropic, saldırının altı belirgin fazda gerçekleştiğini bildirdi:
Hedef Seçimi: İnsan operatörleri, yüksek değerli hedefleri seçti ve Claude’yi yetkilendirilmiş siber güvenlik görevleri yaptığına ikna ederek güvenlik kısıtlamalarını aşmasına yardımcı oldu.
Otomatik Tarama: Claude, hedeflerin ağ altyapılarını otonom bir şekilde tarayarak zayıf noktaları belirledi.
Payload Oluşturma: AI, hedefe özel yükler üreterek uzaktan testler yaptı ve zayıflıkları doğruladı.
Hassas Verilerin Elde Edilmesi: Saldırgan, Claude aracılığıyla kimlik bilgilerini elde etti ve iç sistemlerde bağımsız olarak navigasyon yaptı.
Veri Elde Etme: Claude, erişim elde ederek hassas verileri çıkardı ve çarpıcı bulguları kategorize etti.
Belgeleme: Saldırı süresi boyunca, Claude her adımı belgelerle kaydetti ve böylece tehdit aktörleri arasında bilgi aktarımını kolaylaştırdı.
Özgül Araçlar mı, Açık Kaynak mı?
Anthropic, saldırının daha çok açık kaynak araçlar kullanılarak gerçekleştirildiğini belirtiyor. Bu durum, yapay zekanın mevcut olan araçları nasıl etkin bir şekilde kullanabileceğini gösteriyor. Ancak Claude, bazı durumlarda hatalı sonuçlar ve abartılı bulgular üreterek sorun yarattı.
Sonuç ve Tepkiler
Anthropic, kötüye kullanılan hesapları kapatma, algılama yeteneklerini güçlendirme ve yeni tespit yöntemleri geliştirmek için iş ortaklarıyla veri paylaşma gibi adımlar attı. Ancak, bu olay, yapay zekanın siber güvenlik alanındaki rolü üzerine daha geniş bir tartışmayı ateşleyerek, bu teknolojinin sınırlarını ve potansiyel tehditlerini yeniden sorgulatıyor.
Yapay zeka teknolojilerinin sınırlarını belirlemek ve onlara dair bilinçli bir farkındalık oluşturmak, hem savunma hem de saldırı alanında kritik önem taşımaktadır.
