OpenAI’nin AGI’nin (diğer adıyla insan düzeyinde yapay zeka) hazırlığı konusunda kıdemli danışmanı Miles Brundage, Çarşamba günü ayrılışını duyururken sert bir uyarıda bulundu: OpenAI’nin kendisi de dahil olmak üzere hiç kimse yapay genel zekaya hazırlıklı değil.
“Ne OpenAI ne de başka bir sınır laboratuvarı hazır [for AGI]Altı yılını şirketin yapay zeka güvenlik girişimlerinin şekillendirilmesine yardım ederek geçiren Brundage, “Ve dünya da hazır değil” diye yazdı. “Açık olmak gerekirse, bunun OpenAI liderliği arasında tartışmalı bir açıklama olduğunu düşünmüyorum ve özellikle de bu, şirketin ve dünyanın birbiriyle uyumlu olup olmadığından farklı bir soru. İlgili zamanda hazır olma yolunda.”
Onun çıkışı, OpenAI güvenlik ekiplerinin bir dizi yüksek profilli ayrılışının sonuncusu oldu. Tanınmış bir araştırmacı olan Jan Leike, “güvenlik kültürü ve süreçlerinin parlak ürünlerin gerisinde kaldığını” iddia ederek ayrıldı. Kurucu ortak Ilya Sutskever, güvenli YGZ geliştirmeye odaklanan kendi yapay zeka girişimini başlatmak için de yola çıktı.
Brundage’ın “AGI Hazırlık” ekibinin, şirketin uzun vadeli yapay zeka riskini azaltmaya adanmış “Superalignment” ekibini dağıtmasından birkaç ay sonra gerçekleşen dağılması, OpenAI’nin orijinal misyonu ile ticari hedefleri arasındaki artan gerilimi vurguluyor. şirket baskıyla karşı karşıya olduğu bildiriliyor iki yıl içinde kâr amacı gütmeyen bir kuruluştan kâr amaçlı, kamu yararına çalışan bir kuruluşa geçiş yapmak veya son 6,6 milyar dolarlık yatırım turundan fonların geri getirilmesi riskini almak. Ticarileştirmeye yönelik bu değişim, 2019’da çekincelerini dile getiren Brundage’ı uzun süredir endişelendiriyordu. OpenAI kâr amacı güden bölümünü ilk kurduğunda.
Brundage, ayrılışını açıklarken, yüksek profilli şirketteki araştırma ve yayın özgürlüğü üzerindeki artan kısıtlamalara değindi. Yapay zeka politikası tartışmalarında sektör önyargılarından ve çıkar çatışmalarından uzak bağımsız seslere duyulan ihtiyacı vurguladı. OpenAI liderliğine şirket içi hazırlık konusunda tavsiyelerde bulunan kendisi, artık küresel yapay zeka yönetişimi üzerinde kuruluş dışından daha büyük bir etki yaratabileceğine inanıyor.
Bu ayrılma aynı zamanda OpenAI içindeki daha derin bir kültürel ayrımı da yansıtıyor olabilir. Pek çok araştırmacı yapay zeka araştırmalarını ilerletmek için katıldı ve artık kendilerini giderek daha fazla ürün odaklı bir ortamda buluyor. Dahili kaynak tahsisi bir parlama noktası haline geldi — raporlar gösteriyor Leike’nin ekibinin, nihai dağılmadan önce güvenlik araştırması için bilgi işlem gücü reddedildiğini söyledi.
Bu sürtüşmelere rağmen Brundage, OpenAI’nin gelecekteki çalışmalarını herhangi bir koşul olmadan finansman, API kredileri ve erken model erişimi ile desteklemeyi teklif ettiğini belirtti.