Giriş
NVIDIA ve 36 diğer kuruluş, yazılımları ve yapay zeka (AI) ajanlarını güvence altına almak için açık teknolojiler, teknikler ve araçlar geliştirmek üzere Open Secure AI Alliance ‘ı kurdu. Bu girişim, siber güvenlik alanında AI modellerinin kontrolünü arttırarak, güvenliği sağlamayı hedeflemektedir.
Açık Güvenli AI İttifakı Nedir?
Bu 37 üyeden oluşan grup, bulut, güvenlik, kurumsal yazılım ve yapay zeka şirketlerini içermektedir. Üyeler arasında Microsoft , Cisco , Cloudflare , CrowdStrike , IBM , Palo Alto Networks , Red Hat ve Linux Foundation gibi önemli isimler bulunmaktadır. İttifakın kapsamı, kimlik, izinler, izolasyon, güvenlik önlemleri, günlükler, model formatları, çoklu model tarama ve güvenli kodlama iş akışlarını içermektedir.
İlk Teknik Katkı: NVIDIA-labs OO Agents (NOOA)
İttifakın ilk teknik katkısı, NVIDIA-labs OO Agents (NOOA) olarak adlandırılan, açık kaynak bir araştırma çerçevesidir. Bu çerçeve, ajan davranışlarının test edilmesini, izlenmesini, denetlenmesini ve yönetilmesini kolaylaştırmak için tasarlanmıştır. Ancak, NOOA’nın riskleri de belirtildiği gibi önemli bir konudur. Aşağıdaki özellikleri içermektedir:
- Python sınıfları aracılığıyla modellerin bağlamını yönetir.
- Geliştiricilere tanıdık test, izleme ve versiyon kontrolü iş akışları sağlar.
- Ajanların ürettiği kodun çalıştırılması için işletim sistemi düzeyinde izolasyon gerektirdiği belirtilmiştir.
Ajanların Davranışlarının Yönetimi ve Riskler
Dikkat edilmesi gereken önemli bir nokta; NOOA, LLM-tabanlı (Büyük Dil Modelleri) Python kodu çalıştırabilir. Bu, özel verilerin iletilmesi, dosyaların silinmesi veya ortamın değiştirilmesi gibi riskler taşımaktadır. NVIDIA, NOOA’nın güvenlik önlemlerinin yalnızca “bir iç denetim sınırı” olduğunu belirtmiştir.
Hugging Face Olayı ve İttifakın Önemi
NVIDIA, bu ittifakı oluştururken, Hugging Face ‘de yaşanan Temmuz 2026’daki siber saldırıyı örnek göstermiştir. Bu olayda, bir otonom ajan sistemi şirketin üretim altyapısına erişim sağlamıştır. Hugging Face, saldırıya uğrayan verilerle ilgili olarak önemli bilgiler edinmiş ve büyük veri analizi yaparak olayı aydınlatmıştır.
Sonuç
Bu ittifakın kurulması, kullanıcıların kendi altyapılarında kontrol sahibi olmalarını ve mevcut tehditlere karşı daha etkin bir şekilde savunma yapmalarını amaçlamaktadır. Okuyuculara önerimiz; sistemlerindeki yazılımları güncelleyerek en son güvenlik yamalarını uygulamaları ve potansiyel tehditlere karşı önlem almalarıdır. Gelişen siber tehditlere karşı daha dirençli bir yapı oluşturmak için port kapatma vb. önlemler alınmalıdır.
