Anthropic’in kurucusu ve CEO’su Dario Amodei, teknoloji dünyasında dolaşan söylentilere yanıt verdi. Bu söylentiler, şirketinin ABD hükümetinin açık ağırlıklı Çin modellerini yasaklama çabalarına destek verdiği yönündeydi.
Amodei, “Geçmiş yazılarımı okuyan herkes, bu tür yasakları yararlı bir önlem olarak görmediğimi bilmeli. Ancak açık bir şekilde belirtmek istiyorum: Anthropic, açık ağırlıklı modellerin yasaklanmasını savunmamıştır” ifadelerini kullandı.
Cevabı, Nvidia’nın kurucusu ve CEO’su Jensen Huang’ın geçen Cuma günü X platformunda yayımladığı açık mektup sonrası geldi. Bu mektupta Nvidia ve Hugging Face, Meta, Microsoft, Mistral gibi diğer AI şirketleri, politika yapıcılara geniş kapsamlı “erken kısıtlamalar” getirilmemesi çağrısında bulundu.
Mektupta Çin özel olarak belirtilmemiş olsa da, endüstride tartışmalar, Çin AI laboratuvarlarının yeteneklerini sık sık Amerikalı rakiplerinden fikri mülkiyet çalarak arttırdığı iddiaları üzerinde yoğunlaşıyor. Bu yöntemlerden biri, bir AI modelinin başka bir modeli anlamak için sık sık ona komutlar vermesiyle gerçekleşen “damıtma” olarak biliniyor.
Amodei, yayımladığı blog yazısında, açık ağırlıklı modellerin Çin’in oluşturduğu tehditten farklı bir kategoride yer aldığını belirtti. “Tehlikeli yeteneklere sahip olmayan açık ağırlıklı modeller, kamuya ait bir iyilik: bunlar çalıştırmak için gereken işlem gücü dışında hiçbir maliyet içermiyor ve işletmelere, geliştiricilere ve araştırmacılara değer sağlıyor” dedi.
Amodei, uzun süredir AI’den duyduğu korkuları ifade etti, ancak açık ağırlıklı modelleri kullanan işletmelerin, hatta Çin kaynaklı olanların bu kaygıların yanında yer almadığını dile getirdi.
Kesin korkusunun, “otoriter hükümetlerin” ABD’deki modellerden daha güçlü modeller geliştirecek olması ve bunun sonucunda “kalıcı askeri üstünlük” sağlamak ya da AI’yi kendi halklarını baskılamak için kullanmaları olduğunu belirtti. Çin Komünist Partisi’nin (ÇKP) bu konuda en endişe verici otoriter hükümet olduğunu da vurguladı.
Amodei, AI’nin sadece siber güvenlik alanında değil, “biyolojik saldırıları” da mümkün kılabileceğinden endişe etti. Açık ağırlıklı modellerin bu tür senaryolar açısından daha tehlikeli olduğunu çünkü bu modellere yönelik güvenlik önlemlerinin uygulanmasının veya kullanımının izlenmesinin zor olduğunu dile getirdi. Ayrıca, bir İngiltere AI Güvenlik Enstitüsü raporuna atıfta bulunarak, açık ağırlıkların serbest bırakıldığında geri alınamayacağını belirtti.
Bu durum, açık kaynak savunucularının inandığı şeyin tam aksi: güçlü açık modellere erişimin, tek bir varlık tarafından kontrol edilmeyen modellerin savunuculara kendilerini korumasına yardımcı olduğu söyleniyor.
Amodei, Çin’in erişimlerinin kısıtlanması ve damıtma sürecine resmi bir baskı yapılmasının gerekli olduğuna inandığını ifade etti. ABD, eğer IP çalınması tespit edilirse, Çin’e yaptırım uygulama tehdidinde bulundu.
İlginç bir şekilde, Amodei, bazıları ABD tarafından yönlendirilen model güvenliği test organizasyonları oluşturma çabalarını desteklediğini belirtti; özellikle de tüm dünyanın, Çin de dâhil, buna katılmasını sağlamak gerektiğinin altını çizdi.
“Bu fikrin aslında geniş bir mutabakat içinde olduğunu düşünüyorum. Son aylarda Trump yönetiminin bu yönde adımlar attığını görmekten memnuniyet duydum” diye ekledi. “Etkili olmak için testlerin küresel olması gerekecek, bu da ÇKP’nin de dahil olması gerektiği anlamına geliyor. Bunun mümkün olduğunu düşünüyorum… AI biyolojik silahların önlenmesi etrafında sınırlı iş birliği sağlamak da mümkün olabilir, çünkü bu, Çin’in de yararına.”
Makalelerimizdeki bağlantılardan satın aldığınızda küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
