Kurucu ortak Ilya Sutskever’in ayrılmasının ardından bu hafta başında istifa eden önemli bir OpenAI araştırmacısı Jan Leike, X’te yayınlandı Cuma sabahı şirkette “güvenlik kültürü ve süreçlerinin parlak ürünlerin yerini aldığı” söylendi.
Leike’nin açıklamaları ardından geldi kablolu rapor edildi OpenAI’nin, uzun vadeli yapay zeka risklerini ele almaya adanmış ekibi (“Süper Hizalama ekibi” olarak anılır) tamamen dağıttığını söyledi. Leike Superalignment ekibini yönetiyordu. geçen Temmuz ayında kuruldu OpenAI, insan gibi akıl yürütebilen yapay zekayı geliştirirken, güvenlik protokollerinin uygulanmasındaki “temel teknik zorlukları çözmek” için.
OpenAI’nin orijinal fikri, modellerini kamuya açık bir şekilde sunmaktı, dolayısıyla kuruluşun adı da buradan geliyordu, ancak bunlar, şirketin sahip olduğu özel bilgi haline geldi. iddialar Bu kadar güçlü modellere herkesin erişmesine izin vermek potansiyel olarak yıkıcı olabilir.
“YGZ’nin etkileri konusunda inanılmaz derecede ciddileşmek için çok geç kaldık. Leike, Cuma sabahı istifasıyla ilgili tweet’lerinde “Elimizden geldiğince onlar için hazırlanmaya öncelik vermeliyiz” dedi. “Ancak o zaman YGZ’nin tüm insanlığa fayda sağlamasını sağlayabiliriz.”
Sınır Bu haftanın başlarında, geçen yılki başarısız yönetim kurulu darbesi sırasında Altman’ı destekleyen bir diğer OpenAI kurucu ortağı John Schulman’ın Leike’nin sorumluluklarını üstleneceği bildirildi. Sam Altman’a karşı gerçekleştirilen başarısız darbe girişiminde kilit rol oynayan Sutskever, Salı günü görevinden ayrıldığını duyurdu.
Leike, “Geçtiğimiz yıllarda güvenlik kültürü ve süreçleri parlak ürünlerin gerisinde kaldı” dedi.
Leike’nin gönderileri OpenAI içinde artan gerilime dikkat çekiyor. Araştırmacılar, ChatGPT ve DALL-E gibi tüketici yapay zeka ürünlerini yönetirken yapay genel zeka geliştirmek için yarışırken, Leike gibi çalışanlar süper akıllı yapay zeka modelleri yaratmanın potansiyel tehlikeleri hakkındaki endişelerini dile getiriyor. Leike, ekibinin önceliklerinin ortadan kaldırıldığını ve “kritik” işleri gerçekleştirmek için bilgi işlem ve diğer kaynakları alamadıklarını söyledi.
Leike, “OpenAI’nin bu araştırmayı yapmak için dünyadaki en iyi yer olacağını düşündüğüm için katıldım” diye yazdı. “Ancak, sonunda bir kırılma noktasına ulaşana kadar, şirketin temel öncelikleri konusunda OpenAI liderliğiyle uzun süredir aynı fikirde değildim.”
