Gizmodo’nun yapay zekada olup bitenler hakkında derinlemesine bir inceleme yaptığımız haftalık özeti olan AI Bu Hafta’ya hoş geldiniz.
Neyse, kahretsin. Teknoloji endüstrisi söz konusu olduğunda, son birkaç günde meydana gelen olaylardan daha şok edici bir dizi olayın yaşanıp yaşanmadığını söylemek zor. Saray entrikaları ve toplantı odası draması Sam Altman’ın görevden alınması OpenAI yönetim kurulu tarafından (ve onun muzaffer iade bugün erken saatlerde) şüphesiz Silikon Vadisi’nin başına gelen en patlayıcı olaylardan biri olarak tarihe geçecek. Bununla birlikte, bu sürükleyici olayın uzun vadeli etkilerinin, ilk bakışta görülenden çok daha az keyifli olacağı kesin.
Pek çok kişinin ifade ettiği şekliyle “darbe”, büyük ölçüde Sam ile OpenAI yönetim kurulu arasında şirketteki teknolojik gelişmenin hızı konusunda yaşanan ideolojik ayrılığa atfedildi. Bu anlatıya göre, organizasyonun gidişatı üzerinde nihai söz sahibi olması gereken yönetim kurulu, Altman’ın teknolojiyi ticarileştirme hızı konusunda endişelive onu aşırı bir önyargıyla kovmaya karar verdi. Daha sonra OpenAI’nin güçlü ortağı ve fon sağlayıcısı Microsoft’un yanı sıra bir startup personelinin çoğunluğudaha sonra bir karşı darbeye öncülük ederek hainleri dışarı attı ve kendisini şirketin lideri olarak yeniden görevlendirdi.
Bölümün dramasının büyük kısmı, Altman ile yönetim kurulu arasındaki “Yapay Zeka güvenliği” konusundaki tartışmanın etrafında dönüyor gibi görünüyor. Gerçekten de şirketin tarihindeki bu endişe verici bölüm, OpenAI’nin iki karşıt kişiliğinin alevlenmesi gibi görünüyor; biri araştırma ve sorumlu teknolojik gelişime, diğeri ise tonlarca para kazanmaya dayalı. Bir taraf diğerine kesinlikle üstün geldi (ipucu: para tarafıydı).
Diğer yazarlar zaten teklif etti arızalar OpenAI’nin benzersiz organizasyon yapısının onu nasıl kendisiyle çatışma rotasına soktuğu hakkında. Belki startup’ı görmüşsündür kuruluş şeması İnternette dolaşıyoruz ama eğer yapmadıysanız, işte size kısa bir özet: Var olan diğer teknoloji şirketlerinin hemen hemen hepsinden farklı olarak OpenAI, aslında kar amacı gütmeyenTamamen kendi yönetim kurulu tarafından yönetilen, kâr amacı güden bir şirketi işleten ve kontrol eden. Bu tasarımın, kuruluşun para yerine kamu yararını gözetme misyonuna öncelik vermesi gerekiyor. OpenAI’ler kendi kendini tanımlama ana amacının para kazanmak değil, dünyayı daha iyi bir yer haline getirmek olduğu şeklindeki idealist düşünceyi destekliyor:
OpenAI’nin yapısını (orijinal Kâr Amacı Gütmeyen Kuruluşumuz ile yeni sınırlı kâr kolu arasındaki bir ortaklık) OpenAI’nin misyonu için bir çerçeve olarak tasarladık: güvenli ve tüm insanlığa fayda sağlayan yapay genel zeka (AGI) oluşturmak.
Aslında yönetim kurulunun tüzüğü, hissedarlarına değil “insanlığa” bağlılığını borçludur. Yani buna rağmen Microsoft, OpenAI’ye megaton miktarda para ve kaynak akıttı, girişimin yönetim kurulunun (varsayımsal olarak) ürünlerine ve teknolojisine ne olacağı konusunda son sözü söylemesi gerekiyor. Bununla birlikte, organizasyonun şirket kısmı on milyarlarca dolar değerinde olduğu bildirildi. Pek çok kişinin belirttiği gibi, kuruluşun etik misyonu, kuruluşa yatırım yapanların ekonomik çıkarlarıyla doğrudan çatışıyor gibi görünüyor. Her zamanki gibi para kazandı.
Bütün bunlar söylendiğinde, Altman’ın görevden alınmasının gerçek nedenleri hâlâ kamuoyuna açıklanmadığı için, hafta sonu yaşanan olaylara ilişkin bu yorumu henüz tam olarak desteklemememiz gerektiğini öne sürebilirsiniz. Çoğunlukla şirket üyeleri ya konuşmuyoruz Sam’in dışarı atılmasının veya atılmasının nedenleri hakkında açıkça reddedildi onun görevden alınmasının yapay zeka güvenliğiyle bir ilgisi olduğunu söyledi. Bu arada alternatif teoriler de ortaya çıktı; bazıları Altman’ın agresif çıkışının gerçek nedenlerinin kesinlikle daha renkli olduğunu ileri sürdü; tıpkı onun yönelttiği suçlamalar gibi. ek finansman peşinde koştu otokratik Ortadoğu rejimleri aracılığıyla.
Ancak OpenAI’nin draması için belirli katalizörler hakkında spekülasyon yapmakta çok fazla takılıp kalmak, tüm bölümün ortaya çıkardığı şeyi görmezden gelmek anlamına gelir: Gerçek dünya söz konusu olduğunda, Silikon Vadisi’ndeki “Yapay Zeka güvenliği” neredeyse geçersiz ve hükümsüzdür. Aslında artık biliyoruz ki, sözde kurşun geçirmez organizasyon yapısına ve belirtilen sorumlu yapay zeka geliştirme misyonuna rağmen, OpenAI’nin etiği paranın önüne koymasına asla izin verilmeyecek.
Açık olmak gerekirse, yapay zeka güvenliği gerçekten önemli bir alandır ve eğer gerçekten kurumsal Amerika tarafından uygulansaydı, bu bir şey olurdu. Bununla birlikte, bunun OpenAI’de mevcut olan versiyonu, muhtemelen sahip olan şirketlerden biri. en çok yapılan “güvenlik” odaklı bir model takip etmek – teknoloji endüstrisinin reelpolitik entrikalarıyla pek örtüşmüyor gibi görünüyor. Daha açık bir ifadeyle, bizi kontrolden çıkmış yapay zekaya karşı koruması gereken kişiler (yani yönetim kurulu üyeleri), yani bu güçlü teknolojinin sorumlu yönetimiyle görevlendirilenler, ne yaptıklarını bilmiyor gibi görünüyorlar. . Sam’in tüm endüstri bağlantılarına sahip olduğunu, yüksek mevkilerdeki arkadaşlarının olduğunu, çok sevildiğini ve bu tür bir sosyal sermayenin her şey olduğu bir dünyada ona karşı çıkmanın kariyer intiharı anlamına geldiğini anlamamış gibi görünüyorlar. Eğer kralın yanına gelirsen, kaçırmasan iyi olur.
Kısacası: Eğer kurumsal yapay zeka güvenliğinin amacı insanlığı kontrolden çıkmış yapay zekadan korumaksa, o zaman bunu yapmak için etkili bir strateji olarak ilk büyük sınavından başarıyla geçmiştir. Bunun nedeni, patronlarını kovduklarında ortaya çıkacak öngörülebilir sonucu tahmin bile edemeyen bir grup insana güvenmenin oldukça zor olmasıdır. Böyle bir gruba, sözde “süper zeki”, dünyayı sarsan bir teknolojiyi denetleme konusunda tam olarak nasıl güvenilebilir? Eğer bir grup öfkeli yatırımcıyı alt edemiyorsanız, muhtemelen inşa ettiğini iddia ettiğiniz Skynet tipi varlığı alt edemezsiniz. Bununla birlikte, hakimiyetini yeniden tesis eden korkak, para takıntılı üst düzey yöneticilere de güvenemeyeceğimizi düşünüyorum. Imo, onlar açıkça doğru şeyi yapmayacağım. Yani aslında insanlık bir kaya ile sert bir yer arasında sıkışmış durumda.
OpenAI krizinin yarattığı anlaşmazlık çözüme kavuştukça, şirketin her zamanki gibi işine geri dönmek için iyi bir konumda olduğu görülüyor. Sonrasında fırlatma Şirket, yönetim kurulundaki tek iki kadının mali görevli Larry Summers. Altman şirkete geri döndü (Altman ile dayanışma amacıyla istifa eden eski şirket başkanı Greg Brockman gibi) ve Microsoft’un üst düzey yöneticisi Satya Nadella, bunu söyledi kendisi “OpenAI yönetim kurulundaki değişikliklerden cesaret aldı” ve bunun “daha istikrarlı, bilgili ve etkili yönetime giden yolda ilk önemli adım” olduğunu söyledi.
Yönetim kurulunun başarısızlığıyla, OpenAI’nin iyilikseverlerinin yalnızca kendi “güvenlik” misyonlarını geriletmekle kalmayıp, aynı zamanda AI etik hareketine karşı büyük bir tepkiyi de başlatmış olabileceği açık görünüyor. Konuya ilişkin bir örnek: Bu hafta sonu yaşanan olay, sektörde zaten oldukça radikal olan güvenlik karşıtı ideolojiyi daha da radikalleştirmiş gibi görünüyor. “etkili hızlandırıcılar” (kısaltılmış “e/acc”) ek hükümet düzenlemeleri, “teknoloji etiği” ve “Yapay Zeka güvenliği” gibi konuların gerçek teknolojik gelişmenin ve katlanarak artan kârın önündeki hantal engeller olduğuna inanıyor. Hafta sonu, “Yapay Zeka güvenliği” hakkındaki anlatı ortaya çıktıkça, bu inanç sisteminin daha ateşli taraftarlarından bazıları X’i tercih etti. saldırı olarak algıladıkları şeyi kınadılar bölümün gerçek kurbanı hakkında (kapitalizm elbette).
Teknoloji endüstrisinin “etik” ve “güvenliği” benimsemesinin asıl amacı bir dereceye kadar güvence ile ilgilidir. Şirketler sattıkları teknolojilerin endişe verici ve yıkıcı olabileceğinin farkındadır; tüketicileri ve toplumu korumak için ellerinden geleni yaptıklarına dair kamuoyuna güvence vermek istiyorlar. Ancak günün sonunda, şirketin “ahlakının” parasıyla çelişmesi durumunda bu çabaların bir fark yaratacağına inanmamız için hiçbir neden olmadığını artık biliyoruz. Peki bu iki şey ne zaman çelişmedi?
Günün sorusu: OpenAI dramasından ortaya çıkan en iyi meme hangisiydi?
Bu haftanın benzeri görülmemiş bir karmaşa o kadar çok mem ve alaycı yaklaşıma ilham kaynağı oldu ki, bir favori seçme yeteneği neredeyse imkansız görünüyor. Aslında skandal birkaç farklı olaya yol açtı. türler tamamen memlerden. Altman’ın devrilmesinin hemen ardından çok sayıda olay yaşandı. Rust Cohl’un komplo meme’leri Teknoloji dünyası tam olarak neye tanık olduğunu anlamak için çabalarken, dolaşımdaydı. hakkında şakalar da vardı kimin yerine geçmeli Altman ve ne sebep olmuş olabilir Güç mücadelesi her şeyden önce. Daha sonra, Microsoft’un devrilen CEO’nun arkasında duracağı netleştikçe anlatı ve memler değişti. Muzaffer Sam, tahtayı devirdikten sonra OpenAI türüne geri dönüyor tonlarca kişi gibi popüler oldu Satya Nadelle ile ilgili memler. Elbette şunlar vardı: Halefiyet Mizah. Ve nihayet, X kullanıcılarının açıkça dahil olduğu kaçınılmaz bir meme türü ortaya çıktı. OpenAI yönetim kuruluyla alay etti Altman’a karşı yapılan darbeyi tamamen ortadan kaldırdığı için. Bunu bizzat buldum derin sahte video Altman’ın yüzünü Jordan Belfort’unkiyle değiştiriyor Para Avcısı iyi biri olmak. Bununla birlikte, yorumlarda en sevdiğiniz kişinin sesini kısın.
Bu haftanın diğer başlıkları
- Gerçekten kötü bir hafta geçiren diğer yapay zeka şirketi. OpenAI bu hafta zor durumda kalan tek teknoloji firması değil. General Motors’un sahibi olduğu robotaksi şirketi Cruise da oldukça zorlu bir süreçten geçiyor. Şirketin kurucusu ve CEO’su Kyle Vogt, istifa Pazartesi günü Kaliforniya eyaleti, şirketi bir yayanın yaşadığı şiddet olayıyla ilgili önemli ayrıntıları açıklamamakla suçladı. Vogt, şirketi 2013 yılında kurdu ve onu otomatikleştirilmiş seyahat endüstrisinde önemli bir yere taşıdı. Ancak şirketin işi berbat San Francisco’da araçların piyasaya sürülmesi Ağustos ayındaki olay, şehir sakinleri ve kamu güvenliği yetkilileri tarafından yaygın bir şaşkınlığa ve çok sayıda şikayete yol açtı. Cruise’un skandalları şirketin tüm araçlarını geri çekmesine neden oldu Kaliforniya’da yolların dışında Ekim ayında ve en sonunda ülke çapındaki operasyonlar durdurulacak.
- MC Hammer görünüşe göre büyük bir OpenAI hayranı. Bu haftanın tuhaflığına ek olarak, “U Can’t Touch This” rapçisi MC Hammer’ın onaylanmış bir OpenAI hayranı olduğunu da öğrendik. Çarşamba günü, bu haftaki güç mücadelesinin kaosu sona ererken rapçi tweet attı: “710 plus’a selam ve tebrikler@OpenAI benzersiz bir sadakat, sevgi ve bağlılık gösterisi sergileyen ekip üyeleri @sama Ve @gdb bu tehlikeli zamanlarda şahit olmak çok güzel bir şeydi.”
- Yaratıcılar yapay zeka telif hakkı savaşını kaybediyor. Sarah Silverman’ın OpenAI ve Meta’ya karşı açtığı dava pek iyi gitmiyor. Bu hafta, komedyenin (telif hakkı ihlalleriyle suçlandığı) teknoloji devlerine karşı açtığı davanın başarısızlıkla sonuçlandığı ortaya çıktı. Silverman yalnız değil. Bir dizi görsel sanatçının Midjourney ve Stability AI’ye karşı açtığı dava hepsi dışarı atıldı Geçen ay bir hakim tarafından. Bununla birlikte, bu davalar başarısız gibi görünse de, başarılı olmaları için mesele sadece uygun yasal argümanı bulma meselesi olabilir. Mevcut iddialar yeterince güçlü olmasa da vakalar revize edilebilir ve yeniden doldurulabilir.