Hiç aynı anda hem kusup hem de ishal oldunuz mu? Dinledim ve bu olduğunda hayran yapımı bir sesli kitap versiyonunu dinliyordum. Harry Potter ve Rasyonalite Yöntemleri (HPMOR), Eliezer Yudkowsky tarafından yazılmış bir hayran kurgusu.
Hayır, çift uçlu bedensel korku fanfic tarafından kışkırtılmadı, ancak bu iki deneyim benim için birbirinden ayrılamaz. Yıllar sonra, hastayken maraton haline getirdiğim 660.000 kelimelik fanfic’in, mevcut OpenAI fiyaskosunda yer alan figürlerin çoğu da dahil olmak üzere ultra zengin teknokratlarla bazı tuhaf kesişmelere sahip olduğunu keşfettiğimde şok oldum.
Örnek olay: Bir Paskalya yumurtası 404 Media tarafından görüldü (ki bunu başkası – hatta bin küsur sayfalık fanfic’i okumuş biri olarak benim bile – fark edemeyecek kadar önemsizdi), genişleyen hikayede bir zamanlar bahsi geçen Emmett Shear adında bir Quidditch oyuncusu var. Evet, Twitch’in kurucu ortağı olan ve 2020’lerin tartışmasız en etkili şirketi olan OpenAI’nin geçici CEO’su seçilen Emmett Shear. Shear, internette yayınlanan serileştirilmiş hikayeyi takip ederek Yudkowsky’nin çalışmalarının hayranıydı. Bu yüzden doğum günü hediyesi olarak kendisine bir kamera hücresi hediye edildi.
Shear, yapay zeka endüstrisinin birçok önemli oyuncusu gibi, Yudkowsky’nin yazılarının uzun süredir hayranı. Ancak bu Harry Potter hayran kurgusu Yudkowsky’nin en popüler eseridir.
HPMOR, Harry Potter serisinin yeniden yazılmış alternatif bir evrenidir; Harry’nin teyzesi Petunia’nın, istismarcı ahmak Vernon Dursley yerine Oxford’lu bir biyokimya profesörüyle evlendiği önermesiyle başlar. Yani Harry, sorunları çözmek için deneysel, bilimsel düşünceyi ödüllendiren, duygu, din ve diğer kesin olmayan önlemlerden kaçınan rasyonalist düşünceye takıntılı, her şeyi bilen bir çocuk olarak büyüyor. Harry’nin, büyünün gerçek olup olmadığı konusunda evlat edinen ebeveynleri arasındaki anlaşmazlığı çözmeye çalışmak için Feynman’ın Fizik Dersleri’nden alıntı yapmasına kadar hikayenin üç sayfası bile bitmedi. Eğer düşündüysen gerçek Harry Potter bazen biraz sinir bozucu olabiliyor (neden Dumbledore’a en bariz soruları sormuyor?), hazır olun Bu Harry Potter, adını taşıyan “Genç Sheldon”a parasının karşılığını verebilecek biri.
Yudkowsky’nin uzun süredir yapay zeka araştırmacısı olması nedeniyle, bugün yapay zeka alanında en etkili kişilerin çoğuyla aynı çevrede yer alması mantıklı. 2011’de New Yorker’da yayınlanan bir makalede Silikon Vadisi’nin tekno-özgürlükçüleriGeorge Packer, daha sonra OpenAI’yi kurup yatırım yapacak olan milyarder risk sermayedarı Peter Thiel’in evinde bir akşam yemeği partisinden bildiriyor. “Siyah elbiseli sarışınlar” erkeklere şarap doldururken Packer, David Sacks ve Luke Nosek gibi PayPal’ın kurucu ortaklarıyla yemek yiyor. Partide ayrıca Burning Man festivalinden esinlenerek yüzen, anarşist deniz medeniyetleri inşa etmeyi amaçlayan kar amacı gütmeyen bir kuruluş kurmak için Thiel’den fon alan eski bir Google mühendisi olan Patri Friedman da var (15 yıl sonra organizasyon pek bir şey yapmış gibi görünmüyor) ilerlemek). Ve bir de Yudkowsky var.
İlgili tarafları daha da birbirine bağlamak için şuna bakın: artık görevden alınan OpenAI CEO’su Sam Altman, Grimes ve Yudkowsky’nin 10 aylık bir selfiesi.
Yudkowsky, Altman veya Elon Musk gibi herkesin bildiği bir isim değil. Ancak OpenAI gibi şirketlerin arkasındaki hikayelerde veya hatta biz X Æ A-Xii, Exa Dark Sideræl ve Techno Mechanicus adlı çocukları getiren büyük aşkın ardındaki hikayelerde defalarca ortaya çıkma eğiliminde. Hayır, gerçekten – Musk bir keresinde “şu şakayı” tweetlemek istemişti:Roko’nun Basilisk’i”, Yudkowsky’nin blogu ve topluluk forumu LessWrong’dan kaynaklanan, yapay zeka hakkında bir düşünce deneyi. Ancak ortaya çıktı ki Grimes, “Flesh Without Blood” adlı şarkısının müzik videosunda “Rococo Basilisk” hakkında aynı şakayı zaten yapmıştı.
HPMOR, kelimenin tam anlamıyla, sanal yuvasını Yudkowsky’nin LessWrong’unda bulan rasyonalist hareket için bir işe alım aracıdır. Eğlenceli olduğu kabul edilen bir hikaye aracılığıyla Yudkowsky, Harry Potter’ın tanıdık dünyasını rasyonalist ideolojiyi anlatmak için kullanıyor ve Harry’nin usta bir problem çözücü olmak için bilişsel önyargılarına karşı nasıl çalıştığını gösteriyor. Harry ve Profesör Quirrell – rasyonalizmdeki akıl hocası ve kötü olduğu ortaya çıkan – arasındaki son hesaplaşmada Yudkowsky dördüncü duvarı kırdı ve okuyucularına bir “Final Sınavı.” Bir topluluk olarak okuyucular, Harry’nin kendisini ölümcül bir durumdan nasıl kurtarabileceğini açıklayan rasyonalist teoriler sunmak zorundaydı. Çok şükür mutlu sonlar uğruna geçti camia.
Ancak HPMOR’un ahlaki değeri sadece daha iyi bir rasyonalist olmak ya da olabildiğince “daha az hatalı” olmak değildir.
HPMOR’u okuyan diğer tek arkadaşım bana “Bana göre HPMOR’un büyük bir kısmı rasyonelliğin sizi nasıl inanılmaz derecede etkili kılabileceğiyle ilgili, ancak inanılmaz derecede etkili olmanın yine de inanılmaz derecede kötü olabileceğiyle ilgili” dedi. “HPMOR’un asıl amacının, günün sonunda kötülüğe yönelmeniz durumunda rasyonelliğin önemsiz olması olduğunu düşünüyorum.”
Ancak elbette hepimiz iyiye karşı kötünün tek bir tanımı üzerinde anlaşamayız. Bu bizi insanlardan daha akıllı bir yapay zeka oluşturmaya çalışan bir şirket olan OpenAI’deki çalkantılara geri getiriyor. OpenAI, bu yapay genel zekayı (AGI) insani değerlerle (örneğin, yapay zekanın neden olduğu kıyamet gibi bir olayda öldürülmemenin insani değeri) uyumlu hale getirmek istiyor, ancak öyle oluyor ki “hizalama araştırması” Yudkowsky’nin uzmanlık alanıdır.
Mart ayında yapay zeka alanındaki binlerce önemli isim, tüm “AI laboratuvarlarının derhal en az 6 ay süreyle duraklatılmasını” savunan açık bir mektup imzaladı.
İmzacılar arasında Meta ve Google mühendisleri, Skype, Getty Images ve Pinterest kurucuları, Stability AI kurucusu Emad Mostaque, Steve Wozniak ve hatta 2018’de istifa eden OpenAI kurucu ortağı Elon Musk da vardı. Ancak Yudkowsky mektubu imzalamadı ve bunun yerine kaleme alındı TIME Dergisi’nde bir köşe yazısı altı aylık bir ara vermenin yeterince radikal olmadığını iddia etmek.
Yudkowsky, “Mevcut koşullar altında biri çok güçlü bir yapay zeka yaparsa, insan türünün her bir üyesinin ve Dünya’daki tüm biyolojik yaşamın kısa bir süre sonra ölmesini bekliyorum” diye yazdı. “Böyle bir şeyi nasıl yapıp hayatta kalabileceğimize dair önerilen bir plan yok. OpenAI açıkça ilan etti niyet gelecekteki bir yapay zekanın bizim yapay zeka hizalama ödevimizi yapmasını sağlamaktır. Bunu yeni duydum plan bu aklı başında herhangi bir insanı paniğe sevk etmek için yeterli olmalı. Diğer önde gelen yapay zeka laboratuvarı DeepMind’ın hiçbir planı yok.”
Yudkowsky, yapay zeka söz konusu olduğunda felaketçi yaklaşımı savunurken, OpenAI liderliğindeki kargaşa, muhtemelen varoluşsal bir tehdit olan teknolojinin nasıl yönlendirileceğine dair çok çeşitli farklı inançların altını çizdi.
OpenAI’nin geçici CEO’su olarak görev yapan (şu anda dünyadaki en güçlü insanlardan biri olan ve fanfic’teki Quidditch arayışında olmayan) Shear, AI tartışmasındaki farklı gruplar hakkında memler yayınlıyor.
Ne pahasına olursa olsun teknolojinin büyümesini destekleyen tekno-iyimserler var çünkü bu “ne pahasına olursa olsun büyümek” zihniyetinin yol açtığı sorunların bizzat teknoloji tarafından çözüleceğini düşünüyorlar. Ayrıca, bir tür tekno-iyimserlik gibi görünen etkili ivmeciler (e/acc) var, ancak termodinamiğin ikinci yasasının bunu söylemesi nedeniyle ne pahasına olursa olsun büyümenin ilerlemenin tek yolu olduğu konusunda daha fazla dil kullanılıyor. Güvenlikçiler (ya da “yavaşlatanlar”) teknolojinin büyümesini destekliyorlar, ancak bunu yalnızca düzenli ve güvenli bir şekilde destekliyorlar (bu arada, “Tekno-İyimser Manifestosu”nda risk sermayedarı Marc Andreessen “güven ve güvenlik” ile “teknoloji etiği”ni yeriyor. ”düşmanı olarak). Bir de yapay zeka bizi alt ettiğinde hepimizi öldüreceğini düşünen felaket tellalları var.
Yudkowsky felakete uğrayanlar arasında bir lider ve aynı zamanda son on yıllarını OpenAI yönetim kurulunun yarısı gibi görünen biriyle aynı çevrelerde koşarak geçirmiş biri. Altman’ın görevden alınmasıyla ilgili popüler teorilerden biri, yönetim kurulunun kendi “yavaşlama” değerlerine daha yakın birini atamak istemesiydi. O halde, Yudkowsky’den ilham aldığını bildiğimiz ve kendisini aynı zamanda bir mahkum– eğik çizgi güvenlik uzmanı.
OpenAI’de neler olup bittiğini hâlâ bilmiyoruz ve hikaye yaklaşık her 10 saniyede bir değişiyor gibi görünüyor. Şimdilik, sosyal medyadaki teknik çevreler, argümanlarını oluşturmak için OpenAI kaosunun arka planını kullanarak yavaşlama ve e/acc ideolojisi konusunda kavga etmeye devam ediyor. Ve tüm bunların ortasında, gözlerinizi kısarak baktığınızda tüm bunların gerçekten sıkıcı bir Harry Potter hayran kurgusuna dayandığını görmekten kendimi alamıyorum.