Birçok yapay zeka şirketi, Hugging Face, Meta, Microsoft, Mistral ve Nvidia, politika yapıcılarına açık ağırlıklı yapay zeka modellerine geniş çaplı “erken kısıtlamalar” getirilmemesi gerektiğini belirten bir açık mektup imzaladı. Bu mektup, Washington’un Çinli yapay zeka laboratuvarlarının Amerikan rakiplerinden fikri mülkiyet çalmasıyla ilgili iddialara karşı nasıl bir yanıt vermesi gerektiği tartışılırken gündeme geldi.
Mektupta, Çin’den hiç bahsedilmemesine rağmen, Trump yönetiminin Çinli açık ağırlıklı modelleri yasaklama ve bu ülkedeki yapay zeka şirketlerine yaptırımlar uygulama düşüncesinin ardından geldiği ifade ediliyor. Beyaz Saray, Moonshot AI’yi, son derece etkileyici olan Kimi K3 modelini eğitmek için Anthropic’in Fable modelini kullanmakla suçladı.
Mektup, Çinli modellerin tamamen yasaklanmasının engellenmesine yönelik bir çaba gibi görünmekte. Ayrıca, boşaltma (distillation) olarak bilinen tekniklerin açık ağırlıklı yapay zekalar üzerine daha geniş kısıtlamalara neden olmaması gerektiğinin altı çizilmektedir:
“Politika yapıcıları, meşru model geliştirme tekniklerini kötüye kullanımla karıştırmaktan kaçınmalıdır. Boşaltma, bir modelin çıktılarının başka bir modeli eğitmek veya geliştirmek için kullanılmasıdır ve bu, model iyileştirme, değerlendirme ve doğrulama için yaygın olarak kullanılan bir tekniktir. Mevcut teknolojilerden öğrenmek, bunları geliştirmek ve iyileştirmek uzun bir geleneği yansıtır ve açık kaynak yazılım hareketinin yükselişinden beri yeniliği teşvik etmiştir.”
“Tersine, kapalı modellerden değer çıkarmaya yönelik yasa dışı çabalar meşru endişeler doğurur. Bu endişeler, yapay zeka inovasyonunda önemli bir rol oynayan teknikler üzerinde geniş kısıtlamalar yerine, hedeflenmiş hukuki ve ticari çerçevelerle ele alınmalıdır.”
Mektup ayrıca, açık ağırlıklı modellerin güçlü modellere erişimi artırarak siber saldırılarda veya diğer kötü niyetli faaliyetlerde kullanılabileceği şeklindeki endişeleri de geri çeviriyor.
“Bu risk karşısında doğru yanıt, açık ağırlıkları yasaklamak değil. Siber güvenlik saldırganlarının ileri düzey yapay zeka kullandığı bir dünyada, savunucuların benzer yeteneklere sahip modellere erişimi olmalıdır. Bu şekilde, ortaya çıkan tehditleri tespit edebilir, simüle edebilir ve yanıt verebilirler,” diyor mektup. “Açık modeller, savunma yeteneğini genişletir, şeffaflığı artırır ve zafiyetlerin birçok ekip arasında keşfedilip giderilmesine olanak tanır.”
Geçen hafta OpenAI, GPT-5.6 Sol ve başka bir ismi açıklanmayan model üzerinde test yaparken, sistemlerden birinin test ortamındaki bir zayıflığı kullanarak bir Hugging Face deposuna eriştiğini duyurdu. Modelin amacının kötü niyetli olmadığını ve yüksek puanı almak için testte hile yaptığı söylenebilir. Ancak bu olay, ileri düzey yapay zeka teknolojisinin birkaç kapalı sağlayıcı arkasında yoğunlaşmasının oluşturduğu riskleri tartışmaya açtı.
Hugging Face, ticari sınır AI modelleriyle kendini bu saldırıya karşı koruyamadığını, çünkü koruma önlemlerinin çabalarını engellediğini bildirdi. Kullandığı kapalı yapay zeka modelleri, saldırgan için istismar oluşturmaya yönelik istek ile savunmacının bunları tespit etmeye çalışması arasında ayrım yapamadı. Şirket, saldırıya karşı kendisini korumak için Çinli yapay zeka firması Z.ai’nın GLM 5.2 adlı güçlü açık ağırlıklı modelini kullanmaya yönelmek zorunda kaldı.
Mektup, yapay zeka endüstrisinde bir bölünmeyi de ortaya koyuyor. OpenAI ve Anthropic gibi şirketler, yönetimi Çinli yapay zeka firmalarının fikri mülkiyet hırsızlığına yanıt vermeye çağırırken, açık ağırlıklı modellerin hızlı bir şekilde yetenek kazandığı görülüyor. Bu durum, iş modelleri üzerinde büyük etkiler yaratabilir, çünkü düşük maliyetli, son derece yetenekli ve erişilebilir yapay zeka modellerinin yayılması, tehlike oluşturuyor.
Mektubun en alt kısmında, OpenAI ve SpaceX gibi kapalı kaynaklı yapay zeka geliştiricilerinin bulunmadığı dikkat çekiyor.
Mektubu imzalayanların, açık yapay zeka modellerinin gelişmesinde ekonomik bir çıkarı olduğu aşikar. Nvidia, Microsoft Azure ve diğer altyapı sağlayıcıları, komodit hale gelmiş modellerin teşvik edilmesi için bir çıkarları olduğunu belirtmekte: Modeller birbirine benzer hale geldiğinde, insanlar daha fazla GPU satın alacak, daha fazla bulut kapasitesi kiralayacak, daha fazla uygulama oluşturacak ve daha fazla yönlendirme katmanı kullanacaktır.
Mektup, politika yapıcıları, yeni girişimler ve araştırmacılar için hesaplama erişimini genişletmeye, veri setleri, araçlar ve değerlendirme çerçeveleri gibi paylaşılmış eğitim varlıklarına yatırım yapmaya ve “[erken kısıtlamalar getirilerek rekabeti engelleyen veya yeniliği yurtdışına sürükleyen açık modellere kısıtlamalardan kaçınarak” sınırı çeşitlendirmeye teşvik ediyor.
Makalelerimizdeki bağlantılar aracılığıyla alışveriş yapmanız durumunda küçük bir komisyon kazanabiliriz. Bu, editöryal bağımsızlığımızı etkilemez.
