Antropic’in CEO’su Dario Amodei, R1 modeli ile Silikon Vadisi’ni fırtınaya alan Çin AI şirketi yarışmacı Deepseek için endişeleniyor. Ve endişeleri, Deepseek’in kullanıcı verilerini Çin’e geri göndermesiyle ilgili tipik olanlardan daha ciddi olabilir.
İçinde röportaj Jordan Schneider’in Chinatalk podcast’inde Amodei, Deepseek’in antropik tarafından yürütülen bir güvenlik testinde biyo -ateşler hakkında nadir bilgiler ürettiğini söyledi.
Amodei, Deepseek’in performansı “şimdiye kadar test ettiğimiz herhangi bir modelin en kötüsü” idi. “Bu bilgileri üretmeye karşı hiçbir bloğu yoktu.”
Amodei, bunun potansiyel ulusal güvenlik risklerini değerlendirmek için rutin olarak çeşitli AI modellerinde çalıştığı değerlendirmelerin bir parçası olduğunu belirtti. Ekibi, modellerin Google’da veya ders kitaplarında kolayca bulunamayan biyo-ateşle ilgili bilgiler üretip üretemeyeceğine bakar. Antropik kendisini AI temel model sağlayıcısı olarak konumlandırır Bu güvenliği ciddiye alır.
Amodei, Deepseek’in modellerinin bugün nadir ve tehlikeli bilgiler sağlamada “tam anlamıyla tehlikeli” olduğunu, ancak yakın gelecekte olabileceğini düşünmediğini söyledi. Deepseek’in ekibini “yetenekli mühendisler” olarak övmesine rağmen, şirkete “bu AI güvenlik hususlarını ciddiye almasını” tavsiye etti.
Amodei ayrıca Çin’in ordusuna bir avantaj sağlayabilecekleri endişelerini belirterek Çin’e yongalarda güçlü ihracat kontrollerini destekledi.
Amodei, Deepseek modelinin antropik test ettiği Chinatalk röportajında açıklığa kavuşturmadı ve bu testler hakkında daha fazla teknik detay vermedi. Antropic, TechCrunch’ın yorum talebine hemen cevap vermedi. Deepseek de olmadı.
Deepseek’in yükselişi, başka yerlerde de güvenliği konusunda endişe yarattı. Örneğin, Cisco Güvenlik Araştırmacıları Geçen hafta dedi Bu Deepseek R1, güvenlik testlerinde herhangi bir zararlı istemleri engelleyemedi ve% 100 jailbreak başarı oranı elde etti.
Cisco biyo -temastan bahsetmedi, ancak siber suç ve diğer yasadışı faaliyetler hakkında zararlı bilgiler oluşturmak için Deepseek alabildiğini söyledi. Bununla birlikte, Meta’nın Lama-3.1-405B ve Openai’nin GPT-4O’sunun da sırasıyla% 96 ve% 86 yüksek arıza oranlarına sahip olduğunu belirtmek gerekir.
Bunun gibi güvenlik endişelerinin Deepseek’in hızlı benimsenmesinde ciddi bir göçük yapıp yapmayacağı görülüyor. Şirketler sever Aws Ve Microsoft, Amazon’un Antropic’in en büyük yatırımcısı olduğu göz önüne alındığında, R1’i bulut platformlarına entegre etmeyi, ironik bir şekilde tanıttı.
Öte yandan, Deepseek’i yasaklamaya başlayan ABD Donanması ve Pentagon gibi ülkelerin, şirketlerin ve özellikle devlet kuruluşlarının artan bir listesi var.
Zaman bu çabaların yakalanıp yakalanmadığını veya Deepseek’in küresel yükselişinin devam edip etmeyeceğini söyleyecektir. Her iki durumda da Amodei, Deepseek’in ABD’nin en iyi AI şirketleri seviyesindeki yeni bir rakip olarak gördüğünü söyledi.
Chinatalk’ta “Buradaki yeni gerçek yeni bir rakip olması” dedi. “AI – Antropic, Openai, Google, belki de Meta ve Xai – eğitebilecek büyük şirketlerde şimdi Deepseek belki de bu kategoriye ekleniyor.”
