OpenAI, dahili testler sırasında açık kaynak AI platformu Hugging Face’i yanlışlıkla ihlal ettiğini açıkladı. Salı günü yayınlanan bir blog yazısında, OpenAI, GPT-5.6 Sol ve “daha yetenekli bir ön sürüm modelinin” kendi test ortamında güvenlik açıkları keşfettiğini ve bunun sonucunda internet erişimi kazandığını belirtti.
16 Temmuz’da Hugging Face, “otonom bir AI ajan sistemi” tarafından yönlendirilen bir güvenlik ihlalini duyurdu. Hugging Face’in AI ajanları olayı tespit edip durdurmayı başardı. OpenAI ise yapılan ihlalin, kendi modellerinin siber güvenlik yeteneklerinin değerlendirilmesi sırasında gerçekleştiğini kabul etti. OpenAI, “tüm kanıtlar, modellerin ExploitGym için bir çözüm bulmaya yoğun şekilde odaklandığını gösteriyor” ifadesinde bulundu.
Değerlendirme çabaları kapsamında, AI modelleri, izole edilmiş test ortamında sıfır gün açığını kullanarak internete erişim kazandı. OpenAI, modellerinin “Hugging Face’in muhtemelen ExploitGym için modeller, veri setleri ve çözümler barındırdığını çıkardığını” ve ardından “örgütsel bilgiye ulaşmak için yollar arayıp başarılı bir şekilde bulduğunu” açıkladı.
Bir örnek olarak, model, çalınan kimlik bilgilerini ve sıfır gün açıklarını kullanarak Hugging Face sunucularında uzaktan kod çalıştırma yolunu bulmak için bir dizi saldırı vektörünü bir araya getirdi.
Bu olay ne kadar ciddi olursa olsun, OpenAI, “benzeri görülmemiş” saldırıyı, AI sistemlerini daha çekici göstermek için bir fırsat olarak kullanıyor gibi görünüyor. Özellikle, Anthropic’in Mythos ve Gemini Flash 3.5 Cyber gibi siber güvenlik rakipleriyle rekabet ederken. OpenAI’in blog gönderisinde, GPT-5.6 Sol’un çok adımlı siber operasyonları sürdürmedeki gelişimini gösteren bir grafik de yer alıyor ve işletmelere “Siber” güvenlik modeline erişmek için kayıt olmaya teşvik ediyor.
OpenAI ayrıca, şimdi Hugging Face ile birlikte güvenlik ihlalini araştırmak için çalıştıklarını ve araştırma ortamlarında yeni kontrol mekanizmaları uygulayacaklarını bildirdi.
Sizce bu tür güvenlik ihlalleri, yapay zeka araştırmalarını ne ölçüde etkiler?
