Daha önce Openai’de politikanın geliştirilmesine katılan yapay zeka uzmanı Miles Brandzh, şirketi GPT-2 modelinin oluşturulması ve güvenlik sorunlarına yetersiz dikkat tarihini çarpıtmakla kamuya açıkladı.
Bunun nedeni, şirketin genel yapay zeka (AGI) yaratmak için “aşamalı” bir yaklaşım stratejisini tanıttığı Openai belgesinin yayınlanmasıydı. Materyal, teknolojilerin kademeli olarak konuşlandırılmasının her aşamada tehditleri ortaya çıkaracağını ve GPT-2’nin gelişmesinin “aralıklı” olarak tanımlandığını ve başlangıçta “zararlı kullanım korkuları” nedeniyle gizlendiğini belirtmektedir.
GPT-2 sürümüne katılan markalı, Openai’nin beş yıl önce yinelemeli bir yaklaşım kullandığını söyleyerek bu pozisyonu eleştirdi.
“GPT-2 sürümü, şirketin mevcut felsefesi ile tamamen tutarlıydı: model, her adımda güvenlik derslerinin yayınlanmasıyla aşamalara yayıldı. Sonra uzmanlar bizi dikkatli olmak için övdüler ”diye yazdı Sosyal Ağ X hakkında yazdı. Ona göre, mevcut belge geçmişi yeniden yazıyor ve Openai’nin sadece şimdi düşünceli bir stratejiye geçtiği hakkında yanlış bir izlenim yaratıyor.
Eski çalışanların özel bir öfkesi, bir belgenin risklerin değerlendirilmesine adanmış bir bölümüne neden oldu. İçinde, markanın belirttiği gibi, şirket ancak “ona göre tehlikeli bir emsal oluşturan“ kaçınılmaz tehlikenin kanıtlanamaz kanıtı ”varsa hareket etmeyi teklif ediyor:“ Bu, sistemlerin serbest bırakılmasının birisinin dünyayı kesinlikle havaya uçuracağını kanıtlayana kadar devam ettiği bir yaklaşımdır. Gelişmiş AI için böyle bir mantık kabul edilemez.
Eleştiri, uzman topluluktan Openai’ye yönelik artan iddiaların zeminine karşı geldi. Daha önce, şirket gelişimin şeffaflığı, gizli verilerin kullanımı ve “parlak ürünlerin” güvenlik konusunda önceliklendirilmesi ile suçlandı. Örneğin, ChatGPT ve benzeri araçlar defalarca tehlikeli öneriler dağıttı – tavsiyeden sahtekarlık talimatlarına kadar taşlar var. Buna ek olarak, sinir ağları giderek artan bir şekilde yanlış bilgi ve manipülasyon aracı haline geliyor.
Belgede beyan edilen önlemlere rağmen, bağımsız denetçilerle ortaklık ve geri bildirim mekanizmalarının oluşturulması gibi şüpheciler, Openai mantığındaki çelişkileri gösteriyor. Şirket, AI ürünlerinin hızlandırılmış tanıtımına devam ederken, tehditlerin değerlendirilmesine yaklaşımı önleyici olmaktan ziyade reaktif olmaya devam etmektedir. Markanın vurguladığı gibi, “güvenlik, güvenlik açıkları için aktif bir arama gerektirir ve herkes için belirginleşene kadar görmezden gelmelerini gerektirmez.”
Sektörün artan düzenlemesi bağlamında, bu tür çatışmalar sadece kuruluşun itibarını değil, aynı zamanda bir bütün olarak teknolojinin gelişimini de etkileyebilir.
