OpenAI CEO’su Sam Altman, eski hizalama liderinin şirketin güvenlikten ziyade GPT-4o gibi “parlak ürünlere” öncelik verdiğini öne sürmesinin ardından “kanıtlanmış bir strateji olmadığını” itiraf etti

Ne bilmek istiyorsun

• OpenAI, son teknoloji ürünü GPT-4o’yu piyasaya sürdükten sonra geçtiğimiz hafta üst düzey yöneticilerinden birkaçını kaybetti.
• Eski çalışanlar, tüm güvenlik önlemlerini ikinci plana atarken OpenAI’nin AGI kriterine ulaşma yönündeki büyük çabasıyla ilgili endişelerini dile getirdi.
• Yel değirmenine çarpan raporlar, OpenAI’nin, şirketi eleştirmelerini veya şirket içi işlerini açıklamalarını önlemek için ayrılan çalışanlarını gizlilik sözleşmeleri imzalamaya veya kazanılmış özsermayeyi kaybetme riskine girmeye zorladığını gösteriyor ancak CEO Sam Altman iddiaları yalanladı.

OpenAI, yeni amiral gemisi GPT-4o modeliyle belki de en büyük teknolojik sıçramanın eşiğinde olabilir. Bir yapay zeka sohbet robotunun başka bir yapay zeka sohbet robotuyla insan benzeri bir konuşma yaptığını göreceğimiz kimin aklına gelirdi? Ancak bu, OpenAI CEO’su Sam Altman’ın yeni modelle vaat ettiği “sihirli” türden ayrıntıları anlatmaya bile başlamıyor.

Ses, görüntü ve metin üzerinde gerçek zamanlı muhakeme yeteneklerine sahip yeni amiral gemisi modeli, şirketten gelen tek önemli haber değil. Şaşırtıcı bir şekilde, birçok üst düzey OpenAI yöneticisi, ChatGPT üreticisinin GPT-4o modelini açıklamasından kısa bir süre sonra şirketten ayrıldı.

Cuma günü, OpenAI’nin Hizalama Başkanı, Süper Hizalama Lideri ve Yönetici Jan Leike, şirketten ayrıldığını duyurmak için X’e (eski adıyla Twitter) gitti. OpenAI’ye katıldığını ve bunun “AI sistemlerini bizden çok daha akıllı bir şekilde nasıl yönlendirip kontrol edebileceğimizi” araştırmak için dünyadaki en iyi yer olduğunu düşündüğünü açıkladı.

Jan, güvenlik, izleme, hazırlıklı olma, güvenlik, rakiplere karşı sağlamlık, (süper) uyum, gizlilik, toplumsal etki ve daha fazlası gibi gelecek nesil modellere ilişkin temel öncelikleri konusunda OpenAI’nin liderliğiyle anlaşmazlıklar yaşadığını açıkladı. Eski OpenAI çalışanı, bu yönlerin doğru şekilde anlaşılması zor ve OpenAI’nin gündeme gelen bazı sorunları çözmek için doğru yolda olduğunu düşünmüyordu.

Jan, “İnsandan daha akıllı makineler üretmek doğası gereği tehlikeli bir çabadır” dedi. “OpenAI tüm insanlık adına çok büyük bir sorumluluk taşıyor.” Garip bir şekilde Jan, hem güvenlik kültürünün hem de sürecinin ikinci plana atıldığını ve “parlak ürünlere” öncelik verildiğini belirtiyor.

Son olarak Jan, OpenAI’nin insanlığın bu başarıdan fayda sağlaması için güvenliği ön planda tutan bir YGZ şirketi olması gerektiğini belirtti. Bir yapay zeka araştırmacısı, p(doom)’a göre yapay zekanın insanlığın sonunu getirme ihtimalinin %99,99 olduğunu zaten açıkladı. Araştırmacı ayrıca kaçınılmaz sondan kaçınmanın tek yolunun onu en başta inşa etmemek olduğunu açıkladı.

Dünya korkuluklar ve düzenlemeler olmadan YGZ’ye hazır mı?

OpenAI üst düzey yöneticileri Sam Altman ve Greg Brockman, Jan’in, güvenliğin belirlenmesine ve AGI kriterine ulaşmaya yönelik ilerlemenin sağlanmasına yardımcı olmak için, derin öğrenmenin ölçeklendirilmesi, giderek daha yetenekli sistemlerin güvenli bir şekilde konuşlandırılması ve daha fazlası dahil olmak üzere halihazırda yürürlükte olan çeşitli önlemlerin ana hatlarını çizen sözlerini kabul ediyorlar.

Ancak yöneticiler şunları itiraf etti:

“YGZ’ye giden yolda nasıl ilerleneceğine dair kanıtlanmış bir taktik kitabı yok. Ampirik anlayışın ileriye yönelik yol göstermeye yardımcı olabileceğini düşünüyoruz. Hem muazzam olumlu sonuçlar elde etmeye hem de ciddi riskleri azaltmak için çalışmaya inanıyoruz; buradaki rolümüzü çok ciddiye alıyoruz” ve eylemlerimizle ilgili geri bildirimleri dikkatlice tartıyoruz.”

Geçmişte Sam Altman, yapay zekanın ilerlemesini durduracak büyük bir kırmızı düğmenin olmadığını itiraf etmişti.

Ilya Sutskever ve @signüll, geçen hafta şirketten ayrılan ilk OpenAI çalışanları arasındaydı. Yeni girişimden ayrılmalarına yol açan ayrıntılar zayıf kalıyor; ilki, “kişisel olarak anlamlı” bir projeye odaklanmak için firmadan ayrıldığını gösteriyor. İkincisi, takımdan neden ayrıldıklarını da açıklamadı ancak Sam Altman’dan “dahi usta sınıf strateji uzmanı” olarak bahsederken OpenAI’nin dahili operasyonları hakkında biraz bilgi verdi.

Signüll, Altman’ın Apple ve Microsoft ile yaptığı stratejik anlaşmalara atıfta bulunarak bu iddiaları destekledi; bu anlaşmalar OpenAI’yi sonsuz bilgi işlem gücüne erişim, müşteriler ve ChatGPT’nin insanlığın şimdiye kadar yaptığı en büyük teknoloji parçasına ulaşma olasılığı açısından uygun bir noktaya yerleştiriyor. Iphone. Demek istediğim, OpenAI zaten Windows’u reddeden özel bir macOS ChatGPT uygulaması yayınladı. Şirket, uygulamayı Mac kullanıcılarına gönderdiğini çünkü müşterilerinin bulunduğu yere öncelik verdiğini açıkladı; bu da potansiyel olarak çoğu ChatGPT kullanıcısının hizmetin yeteneklerinden yararlanmak için Apple cihazlarını kullandığını gösteriyor.

“OpenAI artık hem tüketici hem de kurumsal sektördeki en büyük iki şirketin arasında yer alıyor. Dünyada herkesin “AI” dendiği zaman OpenAI’yi fiili isim olarak sonsuza kadar sağlamlaştırdı ve OpenAI’nin her bir zayıflığını bir güce dönüştürdü; bunu yapabilecek tek kişi Google’ı dans ettirin ve son derece rahatsız edici bir duruma sokun. Kesinlikle inanılmaz bir uygulama.”

Eski OpenAI çalışanı ayrıca Altman’ın OpenAI’nin Microsoft ile olan anlaşmasında “çok eğlenceli bir madde” hazırladığını da açıkladı. Signüll ayrıca Microsoft’un, gıpta ile bakılan süper zeka AGI kriterine ulaştığında firmanın kar amacı güden kolundaki %49 hissesine rağmen sıfır IP’yle kalacağını belirtti.

OpenAI imrenilen AGI statüsüne ulaştığında Microsoft sıfır fikri mülkiyete sahip olacak ve %49 hissesine rağmen hiçbir kontrolü olmayacak. OpenAI ve CEO Sam Altman’ın tüm övgüyü alacağı bildiriliyor.

Eski OpenAI çalışanları ağzını sıkı tutmak zorunda kalıyor

OpenAI’de kapalı kapılar ardında neler olup bittiğine ilişkin, uyum ve güvenlik şefi de dahil olmak üzere üst düzey yöneticilerin bazılarını şirketten aniden ayrılmaya zorlayan pek çok spekülasyon havada uçuşuyor.

Yakın zamanda şirketten ayrılan eski çalışanlar OpenAI’nin şirket içi işleri konusunda sessiz kalırken, Vox’un bir raporu OpenAI çalışanlarının, şirketten ayrıldıktan sonra bile OpenAI’yi veya operasyonlarını nasıl yürüttüğünü eleştirmelerini engelleyen ifşa etmeme ve aşağılama yasağına tabi tutulduğunu açıklar. Anlaşmalara tabi olduklarını kabul etmek bile gizlilik sözleşmesinin ihlalidir.

DEVAMINI OKU: Microsoft’un OpenAI ile karmaşık ilişkisi

Gizlilik sözleşmesinin şartlarına uymayı reddeden çalışanlar, OpenAI’deki kazanılmış sermayelerini kaybetme riskiyle karşı karşıyadır. Eski bir OpenAI çalışanı olan Daniel Kokotajio, NDA’yı imzalamadan sıcak başlangıçtan ayrıldıktan sonra kazanılmış sermayesinden vazgeçmesi gerektiğini belirterek bu düşünceyi doğruluyor. Bunu belirtti şirketten ayrıldı “AGI döneminde sorumlu davranacağına dair güveni kaybetmesi nedeniyle.”

Ancak OpenAI CEO’su Sam Altman, eski çalışanların, bir aşağılama yasağı anlaşması imzalamadan şirketten ayrıldıktan sonra kazanılmış özsermayelerini kaybedecekleri konusundaki havayı temizledi.

Altman’a göre:

“Önceki çıkış belgelerimizde potansiyel özsermaye iptaliyle ilgili bir hüküm vardı; her ne kadar hiçbir şeyi geri alamamış olsak da, bu hiçbir belgede veya iletişimde yer alan bir şey olmamalıydı. Bu benim üzerime ve bu durumla karşılaştığım birkaç seferden biri OpenAI’yi çalıştırmaktan gerçekten utandım; bunun olduğunu bilmiyordum ve bilmeliydim.”

Altman ayrıca OpenAI’nin hiçbir çalışanın kazanılmış özsermayesini bir ayrılık anlaşması imzalamadığı için alıkoymadığını belirtti. Standart çıkış evraklarını düzeltmek için çalışan bir ekip olduğunu da sözlerine ekledi.