Çin’in açık ağırlıklı yapay zeka modellerinin gelişimi ve popülaritesi arttıkça, bu modellerle ilgili tartışmalar yeniden alevleniyor. Trump yönetiminin bu modelleri yasaklamayı düşündüğüne dair iddialar ortaya atılıyor, ancak henüz herhangi bir somut adım atılmış değil. Öte yandan, özellikle OpenAI ve Anthropic gibi özel model üreticileri bu durumdan giderek daha fazla endişe duymaya başladı.
Açık ağırlıklı modeller, Moonshot AI’nin Kimi K3’ü veya Alibaba’nın Qwen’i, büyük ABD laboratuvarlarının kapalı kaynak modellerine kıyasla çok daha düşük token maliyetiyle çıkarım yapma imkanı sunuyor. Ancak bu modeller bazı tehditleri de beraberinde getiriyor; özellikle büyük özel yapay zeka laboratuvarlarının kâr marjlarını tehdit ediyorlar.
Bu modelleri kendi veri merkezlerinde kullanan işletmeler, Çinli hackerlar tarafından bir tehdit oluşturabileceği korkusuna kapılmalı mı? Arcee’nin CTO’su Lucas Atkins, bunun doğru olmadığını savunuyor. Arcee, ABD şirketlerine Çin modellerine yerli bir alternatif sunmak amacıyla açık modeller geliştiriyor.
Herhangi bir yeni girişim, Çin modellerinin yasaklanmasından fayda sağlasa da Atkins, Çin’in açık modellerinin herhangi bir açık kaynak yazılımı kadar tehlikeli olmadığını belirtiyor. Hatta bu modellerin kendi şirketine bile fayda sağladığını ifade ediyor.
“Birçok insan bunu bir Çin yazılım programı gibi görüyor. Bu, kötü niyetli birinin komut verebileceği x, y, z amaçlarıyla kodlanmış gibi.” diyor.
Atkins, “Bu modellerin eğitildiği yöntemler tamamen farklı. Arcee ya da Alibaba gibi bir firmanın bir modeli geliştirmesi ve o modelin kendi ortamında çalıştırılması durumunda bizim buna erişimimiz olamaz.” şeklinde açıklıyor.
Bu modeller genellikle “açık ağırlıklı” olarak adlandırılsa da, tam anlamıyla açık kaynak yazılım olarak tanımlanmazlar. Açık kaynak sitelerden (örneğin Hugging Face) indirildiğinde, çalıştırılabilir haldeki kaynak kodu büyük ölçüde görünür ve incelenebilir. Ancak, bu modellerin eğitiminde kullanılan yöntemler ve veriler gizli kalıyor.
Büyük organizasyonların, kullandıkları herhangi bir modelin çekirdek yapısını güvenlik testlerden geçirmeleri gerekiyor. Ayrıca, genellikle bu modelleri belirli kullanım alanları için tekrar eğitmeleri ve taraflılık, toksisite gibi konuları incelemeleri de söz konusu. Böylece, insanlar modellerle etkileşime geçmeden önce onlarla çalışıyor, optimize ediyor ve anlıyorlar.
Bir kodlama modeli, yazdığı koda kötü niyetli arka kapılar ekleyebilir mi? Teorik olarak mümkün olsa da, bunu başarmak için oldukça karmaşık işlemler yapmak gerekecek.
“Yeterince sofistike bir aktörün, her durumda müthiş bir kodlama modeli oluşturmak için bir modeli eğitememesi için hiçbir sebep yok. Ancak belirli bir tür kod tabanıyla karşılaştığında bazı gizli eğitimlerin devreye girmesi gerekiyor.” diyor Atkins. Ancak kendi ifadesiyle, “Bunu nasıl yapabileceğinizi bilmiyorum.”
Büyük dil modellerinin doğası gereği yaratıcı olduğunu belirten Atkins, mevcut bir modelin, önceden planlanmış mükemmel bir koşul ve teşvik ile kötü yazılımlar üretme ihtimalinin oldukça düşük olduğunu savunuyor. Aynı zamanda, herhangi bir işletmenin bu kodu kullanma ihtimalinin de zayıf olduğunu vurguluyor.
Gelecekte böyle bir durumla karşılaşılabilir mi? Bu belirsiz. Ancak işletmeler, yapay zeka uygulamalarını modelden bağımsız hale getirmeye çalışıyor ve birden fazla model kullanıyorlar. Dolayısıyla, Çin modelleri günümüzde fiyat bakımından en iyi seçenek olsa bile, işletmeler sonsuza kadar onlara bağımlı kalmayacaklar.
Atkins, “Çin modellerinin yasaklanması üzerine değil, burada ABD’de iyi bir açık ekosistemi nasıl geliştirebileceğimiz üzerine konuşmalıyız.” diyor.
Arcee ayrıca Çin modellerinden de bazı avantajlar elde ediyor. Çünkü bu modeller açık olduğu için, startup “bu modellerden yararlanabiliyor çünkü ne yaptıklarından öğreniyoruz. Üstlerine inşa edebiliyoruz. Daha sonra onlar da ne yaptığımızı öğrenebiliyor.” diyor. “Bu modelleri geliştiren bireysel araştırmacılara büyük saygı duyuyoruz.”
Sonuç olarak, Çin modelleriyle rekabet etmenin yolu “daha iyi bir model piyasaya sürmek” olarak tanımlanıyor. “Onlara, konuşacak bir şey vermemiz gerekiyor.” diyor Atkins.
Makalelerimizdeki bağlantılar üzerinden yapacağınız alışverişlerde, küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
