Nvidia, Microsoft, SpaceX, IBM ve diğer teknoloji şirketleriyle birlikte açık kaynaklı yapay zeka güvenlik araçları geliştirmek ve paylaşmak üzere bir araya geldi. Açık Güvenli AI İttifakı adı verilen oluşum, sınır modellerine karşı etkili bir şekilde savunma yapabilmek için açık araçların gerekliliğine dikkat çekiyor. Bu girişim, bir rogue OpenAI modelinin kontrol altından kaçmasının ardından gelişen yapay zeka sistemlerinin güvenliği konusundaki endişelerin artmasına verilen bir yanıt niteliği taşıyor. Söz konusu durum, Hugging Face’in, üst düzey ABD modellerinin sınırlı kullanışlılığı nedeniyle kendini korumak için Çin menşeli açık ağırlık modelini kullanmak zorunda kalmasına neden oldu.
İttifakın kurucu üyeleri arasında Palantir, OpenClaw, Linux Vakfı, Cloudflare, Cloudera, Dell, Cisco, Adobe, Siemens ve DoorDash yer alıyor. Ancak OpenAI, Google ve Anthropic gibi öncü ABD yapay zeka şirketlerinin buradaki yokluğu dikkat çekiyor.
Bu oluşum, dünyanın en yetenekli yapay zeka modellerinin açık kalıp kalmaması konusundaki gerginliklerin arttığı bir dönemde ortaya çıktı. Çinli şirketler, özellikle Moonshot AI’nin Kimi K3 modeli gibi giderek daha güçlü açık ağırlık modellerini duyurarak, ABD laboratuvarlarının genelde kapalı ve özel bir strateji izlediği yaklaşımına meydan okuyor. Nvidia ve ortakları, yapay zekayı güvence altına almanın hem kapalı hem de açık modellere erişimi gerektirdiğini savunarak, savunucuların ortaya çıkan tehditlere karşı koyabilmesi için gerekli araçlara ihtiyaç duyduğunun altını çiziyor.
Ayrıca, bu açıklama Trump yönetiminin, üst düzey Çin modellerine erişimi kısıtlama düşüncelerinin yanı sıra, Nvidia tarafından yürütülen bir sektör hareketinin doğrudan bir sonucu olarak kendini gösteriyor. Bu hareket, yapay zekada açıklığın gerekliliğini savunuyor. Google ve OpenAI de bu mektuba geç katılırken, Anthropic hala yok.
Yapay zeka güvenliği konusundaki bu yeni gelişmeleri nasıl değerlendiriyorsunuz?
