Elon Musk Salı günü, eski OpenAI çalışanları tarafından yazıldığı iddia edilen, “Sam Altman ve Greg Brockman’ın rahatsız edici aldatma ve manipülasyon modelini” ayrıntılarıyla anlatan garip bir mektubun bağlantısını tweetledi. OpenAI’nin CEO’su ve başkanı Altman ve Brockman, kovuldu ve sonra yeniden işe alındı son beş gün içinde gerçekleşen dramatik ve başarısız bir darbede. Mektup (aşağıda yeniden basılmıştır), Altman’ın iddiaya göre “aralarının bozulmasının ardından Elon’a olan kininden kaynaklandığı” gizli ve istismarcı davranışlarını anlatıyor.
Salı gecesi itibarıyla Altman, şirketin yönetim kurulu tarafından zorla görevden alınmasının ardından OpenAI CEO’su olarak görevine resmen devam etti ve yönetim kurulu artık büyük ölçüde değiştirildi. Eski yönetim kurulu üyeleri, Altman’ı “tutarsız derecede samimi” olarak tanımlamak dışında, gerekçeleri hakkında neredeyse hiçbir şey paylaşmadı. Bildirildiğine göre şirketle milyarlarca dolarlık bir anlaşmaya imza atan Microsoft CEO’su Satya Nadela bile Altman’ın neden kovulduğuna dair bir yanıt alamadı.
Önerecek hiçbir kanıt yok Musk’ın paylaştığı mektup gerçek. Milyarder, mektubun kendisine gönderildiğini tweetledi ve “Bunlar araştırmaya değer endişeler gibi görünüyor.” Bu bir aldatmaca olabilir. Ancak tuhaf bir şekilde spesifik ayrıntılar içeriyor.
Mektup OpenAI yönetim kuruluna gönderiliyor. “Biz, önemli bir kargaşa ve çalkantı döneminde şirketten ayrılan eski OpenAI çalışanlarıyız” diyor. “Sam Altman’a karşı çıkmaya cesaret ettiğinizde neler olduğuna artık tanık olduğunuza göre, belki birçoğumuzun olası tepki korkusuyla neden sessiz kaldığımızı anlayabilirsiniz.” OpenAI, yorum talebine hemen yanıt vermedi.
Altman ve Brockman adına “yapay genel zeka (AGI) elde etme konusundaki doyumsuz arayışlarından kaynaklanan” bir suiistimal modelinin olduğu iddia ediliyor.
Örneğin mektupta, Altman’ın çalışanlara “gizli” araştırma girişimlerindeki ilerlemeyi gizleme talimatı verdiği ve uygulamayı sorgulayan çalışanları işten çıkardığı belirtiliyor. CEO’nun, Altman’ın işten çıkarılmasında etkili olduğu bildirilen Baş Bilim Adamı Ilya Sutskever de dahil olmak üzere, yönetimin bilgisi olmadan çalışanlar hakkında “soruşturmalar” yürüttüğünü iddia ediyor.
Mektupta, OpenAI’nin başkanı Brockman’ın “cinsiyet geçişi yapan bir ekip üyesine karşı ayrımcı bir dil kullandığı” ve bunun “sonunda düşük performans iddiasıyla işine son verildiği” iddia ediliyor. Bu, şirketin Brockman’ı korumak için konuyla ilgili şikayetleri görmezden geldiğini gösteriyor.
Habere göre hem Altman hem de eski yönetim kurulu üyeleri, kovulmasına yol açan durumla ilgili bir “soruşturma” yapılması konusunda anlaştılar. sınır. Muhtemelen yönetim kurulu üyelerinin sorunun ne olduğunu dünyaya basitçe anlatabildiği zaman, bu soruşturmanın neleri içereceği belli değil.
Mektup ilk olarak Hacker News’teki bir bağlantıda paylaşılmıştı, ancak daha sonra tüm trafiğin ağırlığı altında çöktü. Daha sonra Gizmodo’ya arşiv amacıyla kopyaladıklarını söyleyen bir kişi tarafından GitHub’da yeniden yayınlandı. Musk GitHub bağlantısını paylaştıktan sonra hayran ordusu, kullanıcının yorumlarını taciz ve tacizle doldurdu. Kişi Gizmodo’ya, GitHub’un güven ve güvenlik ekibinin yardım etmeyi reddetmesinin ardından gönderiyi kaldırmak zorunda kaldıklarını söyledi. Kişiye göre, orijinal mektubun yazarları, mektubu yeniden yayımladıkları için teşekkür etmek amacıyla iletişime geçtiler. Kişi Gizmodo’ya bunun gerçek olup olmadığı hakkında hiçbir fikrinin olmadığını söyledi. Mektubun bir kopyasını bu makalenin sonunda okuyabilirsiniz.
Mektup, Altman’la uzun ve sıkıntılı bir geçmişi olan Elon Musk için bir tür teselli olmuş olmalı. Musk, şirketin ilk yıllarında kurucu ortaklarından ve en büyük bağışçılarından biriydi, ancak Tesla’nın yapay zeka destekli sürücüsüz otomobil programı konusunda çıkar çatışması olduğunu iddia ederek şirketle bağlarını kopardı. Altman, Musk’ın ayrılmasının gerçek nedeninin şirketin kontrolünü ele geçirme çabalarının başarısız olması olduğunu iddia etti. Bu ayın başlarında X, bir Uyanmayı önleyen bir sohbet robotu olan Grok adlı yeni yapay zeka sevimsiz ve bazen uygunsuz baba mizahıyla yanıt verecek şekilde ayarlanmıştır. Musk ve Altman, takip eden haftalarda rakip sohbet robotları hakkında birbirlerine sert eleştirilerde bulundular.
Mektubun çoğu, Altman’ın OpenAI’yi kâr getiren bir kuruluşa dönüştürme çabalarına odaklanıyor ve yalnızca teknolojiyle ilerlemenin potansiyel güvenlik kaygılarını önemsiyormuş gibi davranıyor. Şikayetler arasında, mektupta “Sam’in kişisel hedeflerini ilerletmek için OpenAI’nin kar amacı gütmeyen kaynaklarını ihtiyatlı ama rutin bir şekilde kullanması, özellikle de aralarındaki anlaşmazlık sonrasında Elon’a karşı duyduğu kin nedeniyle motive olduğu” belirtiliyor.
Salı gecesi Altman, eski adıyla Twitter olarak bilinen X üzerinden şirkete döndüğünü doğruladı ve şunları yazdı: “Son birkaç günde yaptığım her şey bu ekibi ve misyonunu bir arada tutmaya hizmet etti.”
Yönetim kurulu üyelerinden bilgi almadan anlaşmazlığın ne olduğunu söylemek imkansız. Ancak pek çok kişi sorunların güç mücadelesinden kaynaklandığını düşünüyor. OpenAI, insanlığı teknolojinin potansiyel felaket potansiyelinden korumaya odaklanan şeffaf operasyonlarla yapay zeka oluşturmak için kuruldu. OpenAI kar amacı gütmeyen bir kuruluş olmasına rağmen Altman, şirketin ChatGPT etrafında inşa edilen kar amaçlı bir kanadını organize etti ve bu da kuruluşun birçok idealist çalışanını kızdırdı.
Bu çalışanlardan bazıları, 2021’de Anthropic adında yeni bir yapay zeka şirketi kurmak için OpenAI’den ayrıldı; bu şirket, yapay zeka güvenliği konularına daha fazla önem veren doğrudan bir rakipti. Buna göre bilgiOpenAI yönetim kurulu, Altman’ı kovduktan sonra birleşme konusunda Anthropic’e başvurdu. New York Times Altman’ın, Helen Toner’ın bir bildiri yayınladıktan sonra işten atılmasından önceki haftalarda yönetim kurulundan alınmasını sağlamaya çalıştığını bildirdi. akademik makale Anthropic’i överken OpenAI’yi eleştirdi.
21.11.2023
OpenAI Yönetim Kuruluna:
Bugün size OpenAI’deki son olaylar, özellikle de Sam Altman’a yönelik suiistimal iddiaları hakkındaki derin endişemizi ifade etmek için yazıyoruz.
Bizler, önemli bir kargaşa ve çalkantı döneminde şirketten ayrılan eski OpenAI çalışanlarıyız. Sam Altman’a karşı çıkmaya cesaret ettiğinizde neler olduğuna artık tanık olduğunuza göre, belki çoğumuzun, tepki korkusuyla neden sessiz kaldığımızı anlayabilirsiniz. Artık sessiz kalamayız.
Yönetim Kurulu’nun bu iddiaları detaylı bir şekilde araştırmak ve gerekli tedbirleri almakla yükümlü olduğuna inanıyoruz. Sizi şunu yapmaya çağırıyoruz:
* Emmett’in soruşturmasının kapsamını, Sam Altman’ın, OpenAI’nin kâr amacı gütmeyen bir kuruluştan kâr amacı güden bir kuruluşa geçmeye başladığı Ağustos 2018’den bu yana yaptığı eylemlerin incelenmesini içerecek şekilde genişletin.
* Bu dönemde istifa eden, tıbbi izne ayrılan veya işine son verilen eski OpenAI çalışanlarının özel beyanları için açık bir çağrı yapın.
* Misillemeye veya diğer zarar türlerine maruz kalmamalarını sağlamak için öne çıkanların kimliklerini koruyun.
Kâr amaçlı bir modele geçişi kolaylaştırmak için önemli sayıda OpenAI çalışanının şirketten uzaklaştırıldığına inanıyoruz. Bu, OpenAI’nin Ocak 2018 ile Temmuz 2020 arasındaki çalışan kaybı oranının %50 civarında olmasıyla kanıtlanıyor.
OpenAI’de geçirdiğimiz süre boyunca Sam Altman ve Greg Brockman’ın rahatsız edici bir aldatmaca ve manipülasyon modeline tanık olduk.
yapay genel zekaya (AGI) ulaşmanın doyumsuz arayışı. Ancak yöntemleri, gerçek niyetleri ve tüm insanlığın yararını ne ölçüde ön planda tuttukları konusunda ciddi şüphelerin oluşmasına neden oldu.
Başlangıçta OpenAI’nin misyonu konusunda umutlu olan çoğumuz, Sam ve Greg’e şüphe avantajını kullanmayı tercih ettik. Ancak eylemleri giderek endişe verici hale geldikçe endişelerini dile getirmeye cesaret edenler susturuldu veya dışlandı. Muhalefetin bu sistematik şekilde susturulması, bir korku ve gözdağı ortamı yaratarak OpenAI’nin çalışmalarının etik sonuçları hakkındaki her türlü anlamlı tartışmayı etkili bir şekilde bastırdı.
Sam ve Greg’in sahtekârlığına ve manipülasyonuna ilişkin somut örnekler sunuyoruz:
* Sam’in araştırmacılardan belirli “gizli” araştırma girişimlerine ilişkin ilerlemeyi raporlamayı geciktirmeleri talebi; bu girişimler daha sonra yeterli sonuçları yeterince hızlı bir şekilde sağlayamadığı için yürürlükten kaldırıldı. Bu uygulamayı sorgulayanlar “kötü kültür uyumu” nedeniyle işten çıkarıldı ve hatta bazıları 2019 Şükran Günü’nden hemen önce işten çıkarıldı.
* Greg’in cinsiyet değiştiren bir ekip üyesine karşı ayrımcı bir dil kullanması. Bu sorunu çözmeye yönelik birçok söz verilmesine rağmen, Greg’in etkilenen kişiyle her türlü iletişimden kaçınarak etkili bir şekilde düşmanca bir çalışma ortamı yaratması dışında anlamlı bir eylem yapılmadı. Bu ekip üyesinin sonunda düşük performans iddiası nedeniyle işine son verildi.
* Sam’in, yönetimin bilgisi veya onayı olmadan, İlya dahil çalışanlar hakkında soruşturma yürütmesi için BT ve Operasyon personelini yönlendirmesi.
* Sam’in OpenAI’nin kar amacı gütmeyen kuruluşunu tedbirli ama rutin bir şekilde kullanması
Kişisel hedeflerini ilerletmek için kaynaklara sahip, özellikle de Elon’a olan kininden dolayı bu hedeflerin bozulmasının ardından.
* Operasyon ekibinin Greg’e uygulanan özel kuralları zımnen kabul etmesi, kara listeye alınmamak için karmaşık gereksinimlerin üstesinden gelmesi.
* Brad Lightcap’in, OpenAI’nin tavan kar yapısını ve her yatırımcı için kar tavanını detaylandıran belgeleri kamuya açıklayacağına dair yerine getirilmemiş sözü.
* Sam’in bilgi işlem kotaları için araştırma projelerine yönelik tutarsız vaatleri, iç güvensizliğe ve iç çekişmelere neden oluyor.
Sam ve Greg’in ihlallerine dair giderek artan kanıtlara rağmen OpenAI’de kalanlar, önemli kişisel bedeller ödese bile körü körüne liderliklerini takip etmeye devam ediyor. Bu sarsılmaz sadakat,
intikam korkusu ile OpenAI’nin kâr ortaklığı birimleri aracılığıyla potansiyel mali kazanımların cazibesinin birleşimi.
Sam ve Greg tarafından özel olarak tasarlanan OpenAI’nin yönetişim yapısı, çalışanların doğasında olan çıkar çatışmaları nedeniyle kasıtlı olarak kâr amaçlı operasyonları denetlemekten izole ediyor. Bu şeffaf olmayan yapı, Sam ve Greg’in sorumluluktan korunarak cezadan muaf bir şekilde faaliyet göstermesine olanak tanıyor.
OpenAI Yönetim Kurulunu bu etik olmayan uygulamalara karşı kararlı bir tavır almaya ve Sam ile Greg’in davranışlarına ilişkin bağımsız bir soruşturma başlatmaya çağırıyoruz. OpenAI’nin misyonunun, birkaç kişinin kişisel gündemleriyle tehlikeye atılmayacak kadar önemli olduğuna inanıyoruz.
Siz Yönetim Kurulu’ndan, OpenAI’nin orijinal misyonuna olan bağlılığınızda kararlı olmanızı ve kâr odaklı çıkarların baskılarına boyun eğmemenizi rica ediyoruz. Yapay zekanın geleceği ve insanlığın refahı, etik liderliğe ve şeffaflığa olan sarsılmaz bağlılığınıza bağlıdır.
Samimi olarak,
Endişeli Eski OpenAI Çalışanları
### Temas etmek
Eski OpenAI çalışanlarının bizimle [email protected] adresinden iletişime geçmesini teşvik ediyoruz.
Her türlü iç müzakerede ve kamuya açık iletişimde herkesin kimliğinin gizli kalacağını kişisel olarak garanti ediyoruz.
### Diğer Güncellemeler
Güncellemeler şu adreste yayınlanacaktır: https://board.net/p/r.e6a8f6578787a4cc67d4dc438c6d236e
### Genel Halk için Daha Fazla Okuma
* https://www.teknolojireview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
* https://www.theatlantic.com/teknoloji/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/
*https://twitter.com/geoffreyirving/status/1726754277618491416