Openai, özellikle Deepseek’in artan popülaritesi ve Openai’nin önde gelen AI şirketlerinden biri olarak konumunu sarsmak için yarattığı tehdidi ile iddialı vizyonuna agresif bir şekilde yaklaşıyor. Teknoloji devi, hareket geliştirme arayışını zorluyor ve hatta süper AI ajanlarının bir sonraki büyük şey olduğunu paylaştı. Şirket, intikamından bu yana, güvenlik ve rekabeti dengelemekle birlikte, AI güvenliğine son yaklaşımı, özellikle şirketin yönünü eleştiren ve şirketin anlatısını gözden geçirdiğini sorgulayan bir form anahtar üyesi ile iyi karşılanmamıştır.
Openai, bir güvenlik üzerinde değişen anlatısına göre eski bir politika kurşun tarafından çağrılıyor ve endişeleri gündeme getiriyor ve yönetimin bakım sorumlu AI güvenlik önlemleri
Openai kısa bir süre önce AI modellerinin topluluk ve kullanıcılarıyla dikkatli yinelemeli olarak konuşlandırılmasına yönelik yaklaşımını, adım adım yeniden yazarak ve GPT -2’nin temkinli sunumunu örnek olarak kullanarak paylaştı. Ancak örnek, şirketi arayan ve AI güvenlik tarihi hakkındaki anlatıyı yeniden yazmakla suçlayan Train Openai Politika Araştırmacısı Miles Brundage’dan eleştiriyi davet etti.
Çay belge Openai yayınladığı AI güvenliğine yaklaşımını ve modellerinin konuşlandırılmasını vurgular. Mevcut sistemle nasıl temkinli bir yaklaşım aldığını vurguladı ve temkinli çare onayının bir parçası olarak GPT -2’den bahsetti. Şirket, gelecekteki sistemlerin güvenliğini sağlamak için mevcut araçlardan öğrenme inancını ifade etti. Belgede belirtildi:
Terevitsiz bir dünyada […] Güvenlik dersleri, bugünün sistemlerini görünen güçlerine göre büyük bir arka planla tedavi etmekten kaynaklanmaktadır, [which] Aldığımız yaklaşım [our AI model] GPT – 2. Şimdi ilk eylemi, bir dizi artış sisteminde sadece bir nokta olarak görüyoruz. […] Sürekli dünyada, bir sonraki sistemi güvenli ve Benficual yapmanın yolu mevcut sistemi okumaktır.
Şirketin birkaç yıldır politika araştırması başkanı olan Miles Brundage, GPT-2 sürümünün her aşamada Openai Paylaşım bilgileri ile artımlı bir yaklaşım izlemesi konusunda ısrar ediyor ve güvenlik uzmanları şirketi kabul etti ve takdir etti Modelin işlenmesi. Hey Tartışır GPT-2’nin kademeli olarak yayınlanmasının mevcut yinelemeli dağıtım stratejisiyle uyumlu olduğunu ve geçmiş kefaletin aşırı hedef ve sorumlu olmadığına kesin olarak inanıyor.
Bu yazının büyük kısmı iyi + Tartışmaları olan esaslı iş üzerinde çalışan insanları alkışlıyorum.
Ama GPT-2’nin tarihini ilgili bir şekilde yeniden yazan “Dev bir sıçrama yerine birçok adımda AG” bölümünden oldukça rahatsız oldum/sonuçlandım. https://t.co/iqodkczjet
– Miles Brundage (@miles_brundage) 5 Mart 2025
Brundage ayrıca devam etti ve Openai’nin eylemlerin Southben atılımından daha az kademeli adımlarla geliştirileceği iddiasıyla ilgili endişeleri ifade etti. Şirketin GPT-2’nin güvenlik geçmişini yeniden yazmasının tarihini nasıl yanlış beyan ettiğini paylaştı. Ayrıca, özellikle AI sistemlerinde daha fazla ilerleme sağlandıkça, potansiyel olarak büyük bir risk oluşturarak, bir standart veya aşırı tepki olarak bir standart veya yer güvenlik endişeleri oluşturmak için belgeyi düzenleyen Openai görünen endişelerini belirtti.
Bu, Openai’nin ilk kez öncelikli ilerleme ve uzun vadeli güvenlik üzerinden kâr nedeniyle eleştirilmemesi değildir. Brundage gibi uzmanlar, değiş tokuşun haklı olduğu ve paylaşım endişeleri, bir AI güvenliği kefaletle ilgilenilmezse geleceğin neler yapabileceğine bakar.
