28 Mayıs Salı günü OpenAI, yeni bir komitenin kurulduğunu açıkladı: Emniyet ve güvenlik “, onun üzerinde çalıştığını duyurmadan hemen önce ” bir sonraki son teknoloji model “. Startup’ın yapay zekasının (AI) risklerini azaltmak için uyguladığı önlemlerle ilgili artan endişeler var.
Çok sayıda iç karışıklık ve anlaşmazlık
Yeni komite, yönetim kuruluna tavsiyelerde bulunmaktan sorumlu olacak” Projeler ve operasyonlar için kritik emniyet ve güvenlik kararları » bölümünde ayrıntılı olarak açıklanmıştır bir blog yazısı. Teknolojisini değerlendirmek ve bir rapor sunmak için 90 günü var. Kurulun incelemesinin ardından OpenAI, kabul edilen tavsiyelerin güncellemesini kamuya açıklayacak.
Bu duyuru, şirketin özel süper hizalama ekibini dağıtmasından birkaç hafta sonra geldi. Bu disiplin, yapay zeka sistemlerinin insan zekasını aşması halinde insanlığın çıkarları doğrultusunda hareket etmesini sağlamayı amaçlamaktadır. OpenAI kurucu ortağı ve önde gelen yapay zeka araştırmacısı Ilya Sutskever, birkaç gün önce şirketten ayrılmıştı.
Yapay zeka modellerini devreye alma hızı konusunda Sam Altman’la derin anlaşmazlıkları vardı ve bilim adamı, CEO’sundan daha temkinli bir yaklaşımı tercih ediyordu. Sutskever, geçen Kasım ayında Sam Altman’ı görevden almaya yönelik başarısız girişime katıldı. Onun ayrılışı, süper hizalamaya bağlı başka bir araştırmacı olan Jan Leike de dahil olmak üzere diğer çalışanların istifasına yol açtı.
Yeni komite üç yönetim kurulu üyesinden oluşacak: Başkan Bret Taylor, Quora CEO’su Adam D’Angelo ve eski Sony Entertainment yöneticisi Nicole Seligman. Bu listeyi Sam Altman da dahil olmak üzere OpenAI ekiplerinin altı üyesi tamamlayacak. Şirket, dış uzmanlara da danışılacağını garanti ediyor.
OpenAI yönetimi endişeleniyor
“ OpenAI yakın zamanda bir sonraki son model modelini eğitmeye başladı ve ortaya çıkan sistemlerin bizi yapay genel zeka (AGI) yolunda bir sonraki yetenek seviyesine taşıyacağını tahmin ediyoruz. »insanla aynı görevleri yerine getirebilen bir yapay zekaya atıfta bulunarak start-up’a devam ediyor.
Sam Altman bunu asla saklamadı. Nihai hedefi geliştirmektir “ süper zeka » yani insanlardan çok daha akıllı olacak bir yapay zeka. Üretken yapay zekanın evriminin hızı giderek endişe verici hale gelirken, OpenAI sözcüsü Liz Bourgeois, bir röportajda şirketin yorumlarını karıştırdı. Finans Zamanları.
“ Misyonumuz insanlığa faydalı bir YGZ’dir. Bunu başarmak için, genel olarak YGZ’den çok daha akıllı sistemler olduğunu düşündüğümüz süper zekayı da inceliyoruz. “, o açıkladı. Geçtiğimiz hafta sonu, şirketin 2021’den 2023’e kadar yönetim kurulu üyeleri olan Helen Toner ve Tasha McCauley, son ayrılıklar konusunda uyarıda bulundu. Onlara göre onlar “ OpenAI’nin özyönetim deneyimi için iyiye işaret değil “.
Birkaç gün önce OpenAI en son modeli GPT-4o’yu tanıttı. Önceki sistemlerinden farklı olarak kullanıcılarla dinleyerek, izleyerek ve konuşarak etkileşim kurabilmektedir.