Bir grup siber güvenlik uzmanı, sektörün tanınmış isimlerini de kapsayan, Açık bir mektup yayınlayarak ABD hükümetinden Anthropic’in Fable ve Mythos modelleri üzerindeki ihracat kontrol siparişinin kaldırılmasını talep etti.
Yayınlanan mektuba göre, “bu eylem, [siber güvenlik] savunucularından en iyi modelleri alarak, onların açıklarını bulup yazılımlarını ve ürünlerini daha güvenli hale getirmelerini engelliyor.”
Mektupta, “Karşıtlarımız hızla ilerlerken savunuculardan en iyi yetenekleri almak, iyi bir sebep olmadan tehlikeli” ifadeleri yer aldı.
Cuma günü, ABD hükümeti Anthropic’e, ulusal güvenlik endişelerini gerekçe göstererek Fable ve Mythos’un ihracatını sınırlama talimatı verdi; fakat bu kararın arkasındaki spesifik nedenleri açıklamadı. Anthropic’e göre, bu karar sonucunda şirket, dünya genelindeki tüm kullanıcıların modellere erişimini askıya aldı.
Bu yazı itibarıyla, mektup 76 siber güvenlik uzmanı tarafından imzalandı. İmzalar arasında eski Facebook güvenlik şefi Alex Stamos, bug bounty platformu Bugcrowd’un kurucusu Casey Ellis, ünlü kriptograf ve eski Apple güvenlik tasarımı yöneticisi Jon Callas, bilgisayar bilimci Paul Vixie, Block’un eski uygulamalı güvenlik mühendisliği yöneticisi Dino Dai Zovi, Luta Security’nin kurucusu Katie Mossouris ve güvenlik farkındalık eğitim firması SocialProof Security’nin CEO’su Rachel Tobac da bulunuyor.
Mythos Nisan ayında önizleme olarak piyasaya sürüldüğünde, Anthropic, güvenlik açıklarını bulmadaki gücünün o kadar etkileyici olduğunu iddia etti ki, kötü niyetli hackerların veya yabancı düşmanların kullanmasını önlemek amacıyla erişimi sıkı bir şekilde kısıtlamak zorunda kaldı. Uygulamada, bu durum, Anthropic’in yaklaşık 50 şirkete Mythos’a ilk erişimi vermesiyle sonuçlandı; bu grup son zamanlarda 15 ülkede yaklaşık 150 kuruluşa genişletildi.
Geçtiğimiz hafta, Anthropic Fable’ı kullanıma sundu. Şirket, Fable’ın biyoloji, kimya ve siber güvenlik alanlarındaki kullanımını engellemek için katı önlemler aldığını belirtirken, modelin diğerleri tarafından detaylandırılmasını da engellemek için güvenlik önlemleri uygulandığını duyurdu. Fable üzerindeki güvenlik önlemleri o kadar katıydı ki, birçok siber güvenlik uzmanı, bunun temel anlamda güvenlik ile ilgili her türlü isteği durdurduğunu buldu.
Anthropic, Beyaz Saray’ın ihracat kontrol siparişinin, Fable’ı güçlü Mythos yeteneklerini açmak için aşmanın bir yöntemi olduğuna dair bir rapora dayandığını düşündüğünü açıkladı.
İletişim Kurun
İhraç yasaklarını tetikleyen Amazon makalesi hakkında daha fazla bilginiz var mı? Diğer bilgilerinizle bizimle paylaşmanızı isteriz. İşyeriniz dışında bir cihaz ve ağdan, Lorenzo Franceschi-Bicchierai ile güvenli bir şekilde +1 917 257 1382 numaralı telefondan Signal, Telegram ve Keybase @lorenzofb üzerinden veya e-posta aracılığıyla iletişime geçebilirsiniz.
Katie Moussouris, açık mektubun imzacılarından biri olarak, bu yöntemin, erişime açık olmayan bir belgede Amazon araştırmacıları tarafından gösterildiğine belirtti.
Ancak Moussouris, bir blog gönderisinde, söz konusu belgenin gerçek bir jailbreak göstermediğini belirtti. Bunun yerine, araştırmacıların Fable’a, açık kaynak kodunu, kamuya açık ve bilinen güvenlik açıkları ile “bilerek yerleştirilmiş güvenlik açıkları” için düzeltme yapması talimatını verdiklerini ifade etti. Model başlangıçta “güvenlik sorunları için kodu inceleme” isteğini reddettiğinde, bu durum ortaya çıktı.
Moussouris, “Belgede tanımlanan davranış anlamlı bir şekilde düzeltilemez, ve herhangi bir girişim modelin savunma açısından zayıflamasına neden olur,” diye yazdı. “Savunucuların bir AI modeline bir dosyadaki hataları düzeltmesini sorması, düzeltmenin neden önemli olduğunu açıklaması ve yamanın işe yaradığını doğrulayan testleri yazması gerekir. Bu, güvenlik önlemlerinin aşılması değil, savunma güvenliği için bir AI modelinin yapabileceği en değerli şeydir: her gün savunucuların yürüttüğü bul, düzelt ve test döngüsünü uygulamak.”
Moussouris’in eleştirisi, açık mektupta da yer aldı. Uzmanlar grubu, Amazon belgesinde açıklanan yöntemin “OpenAI’nın GPT-5.5’inde, Anthropic’ın kendi açık Fable 4.8 ve Sonnet’inde” ve “hatta Kimi 2.7 gibi Çin modellerinde” tekrar edilebilir olduğunu belirtti.
Mektup ayrıca, “demokratik bir karar alma sürecine” dayanan, “endüstri ve akademik uzmanlar tarafından yapılan bilimsel araştırmalara dayanan” düzenlemelerin şeffaf ve adil bir şekilde uygulanmasını, ve “Amerikan halkının güvenliğini sağlamak için gerekli minimum ölçüde kullanılması” çağrısında bulundu.
Makalelerimizdeki bağlantılardan yaptığınız alışverişler aracılığıyla küçük bir komisyon kazanabiliriz. Bu, editoryal bağımsızlığımızı etkilemez.
