Beş aktör, New York City sanat galerisinde geçici bir sahnede bir masanın etrafında yerlerini alırken ışıklar söndü. Şarap ve su, medya ile dolu olan evin, Matthew Gasda’nın Sam Altman’ın Kasım 2023’te Openai’nin CEO’su olarak görevlendirilmesine dayanan son oyununa tanık olmak için oturdu.
Oyun, Openai’nin kurucu ortağı ve eski baş bilim adamı Ilya Sutskever’in Altman’a kovulduğunu bildirdi-Kurulun CEO’nun AI güvenliğini yanlış kullandığı ve kötü niyetli, toksik davranışlarda bulunduğuna dair endişeler verdiği bir karar. Gasda’nın o geceyi tasvirine giren belirgin araştırmalara rağmen, oyun yazarı TechCrunch’a amacının bir belgesel oluşturmak olmadığını, bu ortamı AI güvenlik ve hizalama ile ilgili daha büyük felsefi sorular için bir mikro kozmoz olarak kullanmak olduğunu söyledi.
İnsanlar binlerce yıldır insanlığın bir sonraki büyük icatları ve onları takip etme riskleri etrafında efsane ve irfan yarattı. Prometheus ateş ve Oppenheimer’ın atomu bölmesi gibi, insanlık kendi icatlarının cazibesine direnemez. Gasda’nın oyunuyla sanatlar şimdi hızlı teknolojik yenilik – çimentolama teknolojisi ve baronları zeitgeist’e dönüşen felsefi tartışmalara ağırlık veriyor.
“Beşeri bilimler, sanat, bunun hakkında bir şeyler söyleyebiliriz,” dedi Gasda TechCrunch’a. “Belki de finansal ve dişsiz teknolojik olarak dişsiziz, ancak bu dünyayı herkes kadar temsil etme hakkımız var.”
Gasda’nın oyununda, şirkete Mindmesh denir ve bencil, çocukça, Sırf CEO’su Seth olarak adlandırılır.
İlk eylem, Seth’in “Savaş Odası” nda, kendisine en yakın olanlar, yönetim kurulunun devredilmesinin esaslarını, sonraki adımlarının ne olması gerektiği ve CEO’nun bu tür toplumu değiştiren teknolojiyi titizlikle takip etme hakkının olup olmadığını tartıştıkları için gerçekleşir. İkinci eylem, Mindmesh’in yönetim kurulu odasında gerçekleşir ve yeni içten Seth’in kendisine ihanet edenler üzerinde çile yapabileceği ve “bir rakip türü tarafından silineceğiz” de dahil olmak üzere üyeleri arasındaki çeşitli korkuları özetler.
Oyunun merkezi gerginliği, bugün dünya sahnesinde oynanan bir gerginliktir – AI’nın varoluşsal tehdidi, varoluşsal vaadine karşı.
‘Mucizeler yarattığım için kovuldum’
Gasda, bu oyunun 35 taslağını yazdığını ve Ağustos ayında erken izleyiciler için önizlemesi olduğunu söyledi. San Francisco’ya ve daha sonra santigrat beslenen birçok yazı seansına daha fazla geziden sonra-bu hafta sonu Şubat ayına kadar New York’ta prömiyeri olan ve Mart ayında San Francisco’da gösterilecek “Doomers” versiyonuyla geldi.
“Dimes Meydanı” ve “Zoomers” ı yazma ve yönetmesiyle tanınan Gasda, bize karakter arketiplerini ve “kendi kendini yansıtmaya dahil olmayan” bir grup insanın psikolojisini anlamak istediğini söyledi.
Sonuç, yarısı Openai CEO’su Sam Altman, eski baş teknoloji uzmanı Mira Murati ve kurucu ortağı ve Başkan Greg Brockman gibi gerçek insanlara dayanan 10 kişilik bir oyuncu. Murati, yönetici shakeup sırasında geçici CEO olarak görev yaptı. Şirketten Eylül 2024’te kendi şirketini kurmak için ayrıldı.
Diğer karakterler Helen Toner ve Altman’ı devirmeye oy veren iki eski yönetim kurulu üyesi Adam D’Angelo’ya dayanıyor; Ve Openai’nin önünde kapatılmasını isteyen bir araştırmacı Eliezer Yudkowsky bile Dünyayı bitiriyor.
Gasda, Altman’a dayalı karakter olan Seth’in belki de tasvirindeki en doğru olanı olduğunu söyledi, ancak Körfez Bölgesi’ne aşina olanların tanıyacağı karakterlerin kurgusal tasvirleri için yer bıraktı-porno olduğunu düşünen duygusuz bir VC AI’nın geleceği, yeni basılmış bir Gen Z milyoner kurucusu ve Stanford’dan her şeyi bilen bir avukat.
“Oyunu zorlaştırmak ve karakterleri gerçekten ne olduğunu bilen insanları kapatmayacak veya bir AI şirketinde bir yönetim kurulu odasının ne olduğunu bilmeyen insanları yeterince gerçek hale getirmek için yeterince sadakat ve gerçeklik duygusu elde etmek istedim. Mesela, ”dedi Gasda, Altman’ın prömiyeri yapmadan önce oyunun bir kopyasını gönderdiğini belirtti.
Oyuncular tartışmasının ilgili olduğu sorular: AI gelişimi, “biz” kazanabiliriz; daha iyi güvenlik ve hizalama sağlamak için gelişimi yavaşlatılırsa; İnsan ırkını korumak tamamen kapatılmalı mı?
Bu tartışmalarla, her karakterin arketiplerini yerine getirdiğini görüyoruz: Kazanma ve ahlaki olmak arasında bir seçenek varsa, Seth, Attman’a dayalı karakter kazanmayı seçer.
Kurulun ona “mucizeler yaratmak için” ateş ettiğini yüksek sesle ilan eder ve hizalamanın “kutsal bir kaynağın kötü kullanımı” olacağını savunur. Mükemmelliği sürdürmek için insan olduğunu ve Mindmesh’in dünyanın “bağışıklık sistemi” olduğunu ekliyor, Amerikan-“Kötü” Agu haydut olduğunda bizi koruyacak AGI.
Seth, “Yapılacak tek şey, ve dış güçlerden dolayı” diyor. Mira Murati ve Greg Brockman’a dayanan karakterler, onlara hakaret ederken bile, teknolojinin hastalığı iyileştirdiği ve gezegenler arası uzay yolculuğunu açtığı bir AI ütopya vizyonunu savunarak büyük ölçüde Seth’i geri döndürüyor. Güvenlik etik karakteri Alina, “Bir şişedeki bir cin gibi ses çıkarıyorsun” diyor.
Gasda, “kıyametler” boyunca kuru mizahı sergiliyor – aksi takdirde gergin bir konunun ruh halini aydınlatıyor. Ayrıca Silikon Vadisi kültürünün nüanslarını yakalayarak mizahı tanıtıyor. Poliküller ve ketaminden bir kereden fazla bahsedildi ve bir noktada karakterler rasgele mantar alır. Waymo Robotaxis’e referanslar var ve bir noktada bir karakter, “İçmenin düşük statü olduğunu biliyorum, ama gerçekten bir içeceğe ihtiyacım var” diye açıklıyor.
Güvenlik Soruları Kaldı
Bu oyunda tasvir edilen olaylar neredeyse 15 ay önce gerçekleşti ve AI çevresindeki konuşma, tahakküm yarışı güvenlik sorularını geride bırakırken değişti.
Altman, Openai mühendisleri eski haline getirilmezse toplu olarak bırakmakla tehdit ettikten sonra hemen iktidara döndü. Openai’nin kar amacı gütmeyen bir yapıya kaymasıyla rahat olan yeni bir kurul, o zamandan beri CEO altında konsolide edildi. Openai’nin şu anda yok olan süpergrif ekibinin ortak liderliği Sutskever ve Jan Leike kaçtı. Güvenlik odaklı diğer araştırmacılar Endişeleri artırdı AI laboratuvarları da ayrıldı.
Bu Openai’ye zarar vermedi.
Şirketin 300 milyar dolara değer verecek 40 milyar dolarlık bir tur topladığı bildirilirken, Başkan Donald Trump, Çin’e karşı yeni bir silah yarışı ısındığında ve Deepseek gibi yeni rakipler yüzüğe girerken düzenlemeden korumaya söz veriyor. Kısacası, AI inovasyonu tıpkı Seth’in karakterinin istediği gibi yavaşlamıyor, yavaşlıyor. Herkesin cevabını beklediği soru, bunun iyi bir şey olup olmadığıdır.
Oyundaki etikçi Alina, “Tanrı’yı inşa etmek çirkin” diyor. “Çünkü biz çok çirkiniz ve bu bize dayanıyor.”
