Giriş
Anthropic, Claude Fable 5 modelini dünya çapında yeniden çevrimiçi hale getirdi. Bu gelişme, U.S. Commerce Department’ın Fable ve Mythos 5 üzerinde uyguladığı ihracat kısıtlamalarını kaldırmasının ardından gerçekleşti.
Saldırı Nasıl Çalışıyor?
Export kontrolleri, bir teknolojinin kimin tarafından alınabileceğini veya kullanılabileceğini sınırlamaktadır. 12 Haziran tarihli emir, Anthropic’e Fable ve Mythos 5 modellerini, yurt içinde ve dışında, kendi vatandaş olmayan çalışanları da dahil olmak üzere, herhangi bir yabancı ulusa kapatmasını söyledi. Bu kısıtlamalar, Anthropic’in her kullanıcının milliyetini gerçek zamanlı olarak kontrol etme yeteneğinin olmaması nedeniyle hemen devreye girdi ve her iki modeli de herkes için kapatmasına neden oldu.
Olayı başlatan, bir jailbreak’ti: bir modelin güvenlik kurallarını aşmasını sağlayan bir istem. Amazon araştırmacıları, Fable 5’te böyle bir istem buldu. Anthropic’ün ifadesine göre, bu istem modelin birkaç yazılım hatasını işaretlemesini sağladı ve bir durumda bir hatanın nasıl suistimal edilebileceğine dair kod yazdı.
Etkilenen Sistemler
Vurgulanan bu davranış, Anthropic tarafından sıradan bir savunma güvenlik çalışması olarak değerlendirildi ve daha zayıf modellerde de aynı taleplerin geçerli olduğu ifade edildi. Aşağıdaki modeller, benzer saldırılara açık olabilir:
- Claude Opus 4.8
- OpenAI GPT-5.5
- Çin Kimi K2.7
Çözüm ve Korunma
Anthropic, endişeleri sona erdirmek için yeni bir güvenlik filtresi eğitti. Bu filtre, raporda belirtilen teknikleri izler ve %99’dan fazla başarı ile engeller. Engellenen talepler, kullanıcıya bilgi verilerek daha zayıf Opus 4.8 modeline yönlendirilir. Ancak, bu durum normal kodlama ve hata ayıklama süreçlerinde daha fazla yanlış alarm alınmasına neden olabilir.
Ayrıca, Anthropic, jailbrake raporlarını izlemek için bir ekip kuracak ve en kötü durum senaryolarında, kötüye kullanımın onaylanması durumunda hızlı bir şekilde düzeltici tedbirler almayı taahhüt etti. Şirket, ayrıca bir HackerOne programı başlatarak araştırmacılara yeni Fable 5 jailbreak’lerini rapor etme olanağı sunuyor.
Sonuç
Kullanıcıların, güvenlik açıklarından korunmak için sistemlerini güncellemeleri ve potansiyel tehlikelere karşı proaktif önlemler almaları şiddetle tavsiye edilmektedir. Uygulamalarınızda veya sistemlerinizde gizli açıklar olabileceğini düşünüyorsanız, derhal gerekli güncellemeleri yapın ve gerekirse portları kapatmayı düşünün.
