OpenAI’nin gücü Kurucu ortak Sam Altman’ın kovulmasının ardından teknoloji dünyasını büyüleyen mücadele, en azından şimdilik nihayet sona erdi. Peki bundan ne yapmalı?
Sanki OpenAI ölmüş ve yeni, ancak mutlaka iyileştirilmemiş bir startup onun ortasında duruyormuş gibi, sanki biraz övgü gerekiyormuş gibi geliyor. Eski Y Combinator başkanı Altman yeniden dümene geçti ama dönüşü haklı mı? OpenAI’nin yeni yönetim kurulu daha az çeşitliliğe sahip bir başlangıç yapıyor (yani tamamı beyaz ve erkek) ve şirketin kurucu hayırseverlik hedefleri daha kapitalist çıkarlar tarafından benimsenme tehlikesiyle karşı karşıya.
Bu, eski OpenAI’nin kesinlikle mükemmel olduğu anlamına gelmiyor.
Cuma sabahı itibariyle OpenAI’nin altı kişilik bir kurulu vardı: Altman, OpenAI baş bilim adamı Ilya Sutskever, OpenAI başkanı Greg Brockman, teknoloji girişimcisi Tasha McCauley, Quora CEO’su Adam D’Angelo ve Georgetown Güvenlik ve Gelişen Teknolojiler Merkezi direktörü Helen Toner. . Yönetim kurulu teknik olarak OpenAI’nin kâr amacı güden tarafında çoğunluk hissesine sahip olan ve kâr amacı güden OpenAI’nin faaliyetleri, yatırımları ve genel yönü üzerinde mutlak karar alma yetkisine sahip olan kâr amacı gütmeyen bir kuruluşa bağlıydı.
OpenAI’nin alışılmadık yapısı, aralarında Altman’ın da bulunduğu şirketin kurucu ortakları tarafından en iyi niyetlerle oluşturuldu. Kâr amacı gütmeyen kuruluşun son derece kısa (500 kelimelik) tüzüğü, yönetim kurulunun “yapay genel zekanın tüm insanlığa fayda sağlamasını” sağlayacak kararlar aldığını ve bunu en iyi nasıl yorumlayacaklarına karar verme yetkisini yönetim kurulu üyelerine bıraktığını belirtiyor. Bu North Star belgesinde ne “kar” ne de “gelir”den bahsedilmiyor; Toner bildirildiğine göre Bir keresinde Altman’ın yönetim ekibine OpenAI’nin çöküşünü tetiklemenin “aslında [nonprofit’s] misyon.”
Belki de bu düzenleme paralel bir evrende işe yarayabilirdi; Yıllar boyunca OpenAI’de yeterince iyi çalıştığı görüldü. Ancak yatırımcılar ve güçlü ortaklar işin içine girince işler… daha da çetrefilli hale geldi.
Altman’ın işten çıkarılması Microsoft ve OpenAI çalışanlarını birleştirdi
Yönetim kurulunun Cuma günü, OpenAI’nin 770 kişilik iş gücünün büyük kısmı da dahil olmak üzere hemen hemen hiç kimseye haber vermeden Altman’ı aniden kovmasının ardından, startup’ın destekçileri hoşnutsuzluklarını hem özel hem de kamuda dile getirmeye başladı.
Önemli bir OpenAI işbirlikçisi olan Microsoft’un CEO’su Satya Nadella, iddiaya göre Altman’ın ayrılışını öğrenince “öfkelendi”. Bir başka OpenAI destekçisi olan Khosla Ventures’ın kurucusu Vinod Khosla, X’te (eski adıyla Twitter) fonun aranan Altman geri döndü. Bu arada Thrive Capital, yukarıda adı geçen Khosla Ventures, Tiger Global Management ve Sequoia Capital’in, Altman’ı yeniden göreve getirmek için hafta sonu yapılan müzakerelerin yolunda gitmemesi halinde yönetim kuruluna karşı yasal işlem başlatmayı düşündüğü söylendi.
Artık OpenAI çalışanları hizalanmamış dışarıdan görünen bu yatırımcılarla. Tam tersine, Sutskever de dahil olmak üzere hepsine yakın bir kişi, bariz bir fikir değişikliğiyle, gidişatı tersine çevirmemeyi tercih etmeleri halinde yönetim kurulunu toplu istifayla tehdit eden bir mektup imzaladı. Ancak OpenAI’nin çökmesi durumunda bu OpenAI çalışanlarının kaybedecekleri çok şey olduğu da göz önünde bulundurulmalıdır: Microsoft’tan gelen iş teklifleri ve Satış ekibi bir kenara.
OpenAI, Thrive liderliğinde, şirketin değerlemesini 29 milyar dolardan 80 milyar ila 90 milyar dolar arasına çıkaracak bir hamleyle muhtemelen çalışan hisselerini satmak için görüşmelerde bulunuyordu. Altman’ın ani çıkışı ve OpenAI’nin şüpheli geçici CEO’lardan oluşan kadrosu, Thrive’ın soğuk davranmasına neden oldu ve satışı tehlikeye attı.
Altman beş günlük savaşı kazandı ama ne pahasına?
Ama şimdi birkaç nefes kesici, tüyler ürpertici günün ardından bir tür çözüme ulaşıldı. Altman, yönetim kurulunun kararını protesto etmek amacıyla Cuma günü istifa eden Brockman ile birlikte, görevden alınmasına yol açan endişelere ilişkin bir arka plan soruşturmasına tabi olmasına rağmen geri döndü. OpenAI’nin Altman’ın taleplerinden birini karşılayan yeni bir geçiş kurulu var. Ve OpenAI’nin, yatırımcıların karlarının sınırlandırılması ve yönetim kurulunun gelir odaklı olmayan kararlar alma özgürlüğüne sahip olmasıyla yapısını koruyacağı bildiriliyor.
Salesforce Marc Benioff, X’te “iyi adamların” kazandığını paylaştı. Ancak bunu söylemek için erken olabilir.
Tabii ki, Altman kendisini “kazanmadı” diye suçlayan kuruldan galip ayrıldı. [being] yönetim kurulu üyelerine karşı sürekli olarak samimi ve bazı raporlara göre büyümeyi misyonun önüne koyuyor. Bu iddia edilen sahtekârlığın bir örneğinde Altman, olduğu söylendi OpenAI’nin güvenliğe yaklaşımını eleştirel bir bakış açısıyla ele alan, ortak yazarı olduğu bir makale nedeniyle Toner’ı eleştirdi; öyle ki Toner onu tahtadan itmeye çalıştı. Bir başkasında Altman “çileden çıkmış” Sutskever, OpenAI’nin ilk geliştirici konferansında yapay zeka destekli özelliklerin lansmanını hızlandırdı.
Kurul, olası yasal zorlukları öne sürerek defalarca şans verilmesine rağmen kendilerini açıklamadı. Altman’ı gereksiz derecede dramatik bir şekilde görevden aldıklarını söylemek yanlış olmaz. Ancak yöneticilerin, en azından hümanist direktiflerini nasıl yorumladıklarına bağlı olarak, Altman’ı bırakmak için geçerli nedenleri olabileceği inkar edilemez.
Yeni yönetim kurulunun bu direktifi farklı yorumlaması muhtemel görünüyor.
Şu anda OpenAI’nin yönetim kurulu eski Salesforce eş CEO’su Bret Taylor, D’Angelo (orijinal yönetim kurulundan kalan tek kişi) ve ekonomist ve eski Harvard başkanı Larry Summers’dan oluşuyor. Taylor, FriendFeed (Facebook tarafından satın alındı) ve Quip (bu şirketin satın alınmasıyla Salesforce’a geldi) dahil olmak üzere çok sayıda şirketin kurucu ortağı olan bir girişimci girişimcidir. Bu arada Summers’ın derin iş ve hükümet bağlantıları var – OpenAI için bir varlık, onun seçimiyle ilgili düşünceler muhtemelen yapay zekaya yönelik düzenleyici incelemelerin yoğunlaştığı bir zamanda gitti.
Ancak bu muhabire yönetmenler doğrudan bir “kazanma” gibi görünmüyor; eğer amaç farklı bakış açılarıysa, bu mümkün değil. Altı koltuk henüz doldurulmamış olsa da ilk dördü oldukça homojen bir ton oluşturuyor; böyle bir kurul aslında Avrupa’da yasa dışı olacaktır; emirler Şirketler yönetim kurullarındaki koltuklarının en az %40’ını kadın adaylara ayırıyor.
Neden bazı yapay zeka uzmanları OpenAI’nin yeni yönetim kurulu hakkında endişeli?
Hayal kırıklığına uğrayan tek kişi ben değilim. Bazı yapay zeka akademisyenleri bugün erken saatlerde hayal kırıklıklarını dile getirmek için X’e döndü.
Bentley Üniversitesi’nde matematik profesörü ve sosyal medya öneri algoritmaları üzerine bir kitabın yazarı olan Noah Giansiracusa, hem kurulun tamamı erkeklerden oluşan yapısıyla hem de bir geçmişe sahip olduğunu belirttiği Summers’ın adaylığıyla ilgili sorun yaşıyor. aşağılayıcı sözler kadınlar hakkında.
Giansiracusa, mesaj yoluyla şunları söyledi: “Bu olaylarla ilgili ne yapılırsa yapılsın, en azından optikler hiç de iyi değil – özellikle de yapay zeka geliştirmede öncülük eden ve içinde yaşadığımız dünyayı yeniden şekillendiren bir şirket için.” “Özellikle rahatsız edici bulduğum şey, OpenAI’nin ana amacının ‘tüm insanlığa fayda sağlayan’ yapay genel zeka geliştirmek olmasıdır. İnsanlığın yarısı kadın olduğundan son olaylar bana bu konuda pek güven vermiyor. Toner, yapay zekanın güvenlik yönünü en doğrudan temsil ediyor ve bu, tarih boyunca, özellikle de teknolojide, kadınların sıklıkla düştüğü konum oldu: Erkekler yenilik yapma ve dünyayı yönetme övgüsünü alırken toplumu büyük zararlardan korumak.”
Sanford Yapay Zeka Laboratuvarı’nın yöneticisi Christopher Manning, değerlendirmesinde Giansiracusa’ya göre biraz daha hayırsever ama onunla aynı görüşte:
TechCrunch’a “Yeni oluşturulan OpenAI kurulu muhtemelen hala eksik” dedi. “Bununla birlikte, insan toplumunda yapay zekanın sorumlu kullanımı konusunda derin bilgiye sahip kimsenin bulunmadığı ve yalnızca beyaz erkeklerden oluşan mevcut yönetim kurulu üyeliği, bu kadar önemli ve etkili bir yapay zeka şirketi için umut verici bir başlangıç değil.”
Eşitsizlik yapay zeka endüstrisini rahatsız ediyor açıklayıcılar Üretken yapay zeka modellerini eğitmek için kullanılan verileri, bu eğitilmiş modellerde sıklıkla ortaya çıkan zararlı önyargılara karşı etiketleyenler, OpenAI’nin modelleri dahil. Yazlar uzak olmak, sahip olmak AI’nın en azından geçim kaynaklarıyla ilgili olası zararlı sonuçlarıyla ilgili endişelerini dile getirdi. Ancak konuştuğum eleştirmenler, OpenAI’nin şu anki kurulu gibi bir kurulun, en azından daha çeşitli bir kurulun yapacağı şekilde değil, sürekli olarak bu zorluklara öncelik vereceğine inanmakta zorlanıyor.
Bu şu soruyu gündeme getiriyor: OpenAI neden Timnit Gebru veya Margaret Mitchell gibi tanınmış bir yapay zeka etik uzmanını ilk kurul için işe almaya çalışmadı? Bunlar “mevcut değil” miydi? Reddettiler mi? Yoksa OpenAI ilk etapta çaba göstermedi mi? Belki de hiçbir zaman bilemeyeceğiz.
OpenAI’nin, kalan beş yönetim kurulu koltuğunu (söylentilere göre) Altman ve bir Microsoft yöneticisinin her birini alması halinde üç veya üç sandalyeyi seçerken daha akıllı ve dünyevi olduğunu kanıtlama şansı var. Eğer daha çeşitli bir yola gitmezlerse, Yapay Zeka Politika Enstitüsü düşünce kuruluşunun yöneticisi Daniel Colson şunları söylüyor: söz konusu X’te söylenenler doğru olabilir: Yapay zekanın sorumlu bir şekilde geliştirilmesi konusunda birkaç kişiye veya tek bir laboratuvara güvenilemez.