OpenAI, Salı günü, geliştiricilerin uygulamalarını gençler için daha güvenli hale getirmesine yardımcı olabilecek bir dizi kuralı duyurdu. Bu genç güvenliği politikaları, OpenAI’nin gpt-oss-safeguard olarak bilinen açık ağırlık güvenlik modeliyle kullanılabiliyor.
Geliştiriciler, gençler için yapay zekayı nasıl daha güvenli hale getireceklerini sıfırdan düşünmek yerine, bu kuralları kullanarak oluşturdukları şeyleri güçlendirebiliyor. Bu kurallar, grafik şiddet ve cinsel içerik, zararlı beden idealleri ve davranışlar, tehlikeli aktiviteler ve zorluklar, romantik veya şiddet içeren rol yapma gibi sorunlarla ilgileniyor.
Bu güvenlik politikaları, açık kaynak olarak verildiğinden, gpt-oss-safeguard haricindeki diğer modellerle de uyumlu hale getirilebiliyor; ancak en etkili sonuçlar, OpenAI’nin kendi ekosisteminde elde ediliyor.
Bu kuralları yazmak için OpenAI, yapay zeka güvenliği gözetim kuruluşları olan Common Sense Media ve everyone.ai ile işbirliği yaptı.
Common Sense Media’nın AI & Dijital Değerlendirmeler Müdürü Robbie Torney, “Bu kural tabanlı politikalar, ekosistem genelinde anlamlı bir güvenlik temeli oluşturmaya yardımcı oluyor ve açık kaynak olarak yayımlandığı için zamanla uyarlanabilir ve geliştirilebilir,” dedi.
OpenAI, blogunda, geliştiricilerin, deneyimli ekipler dahil, güvenlik hedeflerini kesin, operasyonel kurallara dönüştürmede sıklıkla zorluk yaşadığını belirtti.
“Bu, koruma boşluklarına, tutarsız uygulamalara veya aşırı geniş filtrelemelere yol açabilir,” diyor şirket. “Açık, iyi tanımlanmış politikalar, etkili güvenlik sistemleri için kritik bir temeldir.”
Techcrunch etkinliği
San Francisco, CA
|
13-15 Ekim 2026
OpenAI, bu politikaların yapay zeka güvenliği ile ilgili karmaşık sorunlara çözüm olmadığını kabul ediyor. Ancak, daha önceki çabaları üzerine inşa ediliyor; ebeveyn kontrolleri ve yaş tahmini gibi ürün düzeyinde güvenlik önlemlerini içeriyor. Geçen yıl, OpenAI, 18 yaş altı kullanıcılarla AI modellerinin nasıl etkileşime girmesi gerektiğini ele alan büyük dil modelleri için yeni kılavuzlar yayınladı — bilinen adıyla Model Spec.
Ancak OpenAI’nin de en temiz geçmişe sahip olduğu söylenemez. Şirket, aşırı ChatGPT kullanımı sonrası intihar eden insanların aileleri tarafından açılan birkaç dava ile karşı karşıya. Bu tehlikeli ilişkiler, kullanıcının chatbot’un güvenlik önlemlerini aşması sonrası sıklıkla oluşuyor ve hiçbir modelin güvenlik önlemleri tamamen geçilemez değil. Yine de, bu politikalar en azından bir adım ileri ve özellikle bağımsız geliştiriciler için fayda sağlayabilir.
