Ocak ayının başında, 90 kadar siyasi, toplumsal ve düşünce lideri, New Orleans’taki bir Marriott otelinde yapay zeka üzerine gizli bir konferans için bir araya geldi. O kadar gizliydi ki, odanın kapısından içeri girmedikçe kimlerin davet edildiğini kimse bilmiyordu. Kilise liderleri ve muhafazakâr akademisyenler, işçi sendikası temsilcilerinin yanında oturuyordu. Bernie Sanders’ın başkanlık için aday olmasına yardım eden ilerici güç brokerları, birdenbire MAGA yanlısı konuşmacılarla aynı havayı solumak zorunda kaldı. New Orleans’a davet eden yapay zeka düşünce liderleri, bu gruptan birinin diğerine zarar vermesini umuyordu.
Çarşamba günü, dünyanın en otoriter yapay zeka güvenliği seslerinden biri olan Future of Life Institute, bu toplantının sonuçlarını duyurdu: İnsanı Öncelikli AI Bildirgesi, yapay zeka gelişimini evrensel insani değerler üzerine inşa eden beş kılavuz sunan kısa bir belge. Bu belge, güçlerin kaynağını tek bir elde toplamaktan kaçınma; çocuklar, aileler ve toplulukların refahını koruma; insan iradesini ve özgürlüğünü sürdürme gibi konulara vurgu yapıyor. Benim şahsen gördüğüm en geniş imza yelpazesine sahip politik bir belge.
Teknoloji dünyasının oldukça dışında bulunan güçlü sivil toplum kuruluşları, bu bildirgeyi imzaladı: AFL-CIO gibi büyük sendikalar, Amerikan Öğretmenler Federasyonu ve Senaryo Yazarları Derneği; G20 İnançlar Forumu Derneği ve Hristiyan Liderler Kongresi gibi dini organizasyonlar; 2016’da Bernie Sanders’ın Demokrat olarak adaylığını belirleyen Amerikan İlerici Demokratları; muhafazakâr aile çalışmalarını destekleyen düşünce tankları ve Parents RISE! gibi savunma grupları.
Bireysel imzacılar arasında, Demokratik başkan adayı Ralph Nader, AFT başkanı Randi Weingarten, Signal Foundation başkanı Meredith Whittaker, The Blaze’in Glenn Beck’i, War Room’un Steve Bannon’u, Virgin Group kurucusu Sir Richard Branson ve eski Ulusal Güvenlik Danışmanı Susan Rice yer alıyordu. Önümüzdeki günlerde daha fazla imza atılması bekleniyor.
Toplantı, Chatham House Kuralları altında gerçekleşti ve katılımcıların listesi gizli tutuldu. Ancak The Verge ile deneyimlerini paylaşmayı kabul eden katılımcılar, Max Tegmark’ın, FLI’nin kurucu ortaklarından biri ve MIT profesörü olduğunu belirtti. “Son birkaç ay boyunca onunla çok zaman geçirdik,” diyen Weingarten, New Orleans’a gidememesine rağmen, belgenin hazırlanmasında yer aldığını ifade etti. FLI’nin bakış açısında ve AFT’nin kendi “mantıklı kısıtlamaları” ile dikkate değer benzerlikler bulduğunu belirtti. “Bir süre boyunca, bunu bilmeden paralel bir yolda ilerledik.”
Humans First’ın kurucu ortağı ve Bannon’un War Room programında eski muhabir olan Joe Allen, Tegmark’ın kendisini de New Orleans’a davet ettiğini söyledi; Manhattan’daki daha önceki bir konsept ispatı toplantısını da belirtti. Katılımcıların geniş yelpazesinin tuhaf bulunsa da, siyasi gerginliğin tamamen ortadan kalkmadığını belirtti. Ancak Allen, onların hızlıca benzer konularda anlaşmasına şaşırdı: otonom öldürücü silahların yalnızca yapay zeka tarafından kontrol edilmemesi gerektiği, yapay zeka şirketlerinin çocukların duygusal bağlarını kâr için kullanmaması gerektiği ve yapay zekanın yasal kişilik kazanamayacağı gibi konular üzerinde uzlaştılar. (Bildirgedeki en az popüler görüş bile katılımcıların %94’ü tarafından onaylandı.)
“Bence, su kaynağında zehir olduğuna dair bir bilgi varsa ya da okullara uyuşturucu doluyorsa -bu tür bir şeyde- genel olarak çoğu insan karşıdır ve bu bir siyasi meselede değildir,” dedi. Yapay zeka, belirli yapay zeka modelleri hakkında insanların genel görüşlerinin siyasi hatlara bölünmesi nedeniyle biraz daha karmaşık. Ancak Allen’a göre bu ayrım anlamsızdı. “Sonuçta ‘temellendirilen’ ve ‘uyanmış’ demek ne anlama geliyor?”
“Eğer bu işi doğru yapmazsak, diğer meseleleri tartışma lüksüne sahip olamayacağız. O yüzden, bu işi doğru yapalım.”
Neredeyse bir on yıl önce, FLI, yapay zeka araştırmaları için daha iyimser bir ilke seti oluşturmuştu – tam olarak 23 ilke, 2017’de düzenlenen Asilomar Konferansı’nda kaleme alınmıştı ve bu toplantıya 100’den fazla teknoloji lideri katılmıştı. Asilomar AI İlkeleri’nin imzacıları arasında, Sam Altman, Elon Musk ve Demis Hassabis gibi yapay zeka liderleri; Stephen Hawking ve Ray Kurzweil gibi ünlüler ve Google, Intel ve Apple gibi büyük şirketlerden temsilciler vardı.
Ancak bu sefer sanayi temsilcileri davet edilmedi; Altman ve Musk seviyesindeki kişilerin davet edilmediğini söylemeye bile gerek yok. “Bu, aslında çok bilinçli bir tasarım tercihi,” diyor FLI’nin Gelecek Programı direktörü Emilia Javorsky. Yapay zekanın toplumsal etkileri üzerine düzenlediği konferanslarda, kurumsal çıkarların genellikle odadaki baskın perspektif haline geldiğini gözlemledi. Bunun nedeni, boyutları ve ağırlıkları ve finansman yetenekleri ile sağladıkları etkidir. Bunun yerine, davet edilenler, suni zeka nedeniyle büyük bir değişim geçiren sivil toplum kuruluşlarının temsilcileriydi; hepsi, Büyük Teknoloji’nin endişelerini hiçe saymasından bıkmışlardı.
FLI’nin diğer kurucu ortaklarından ve UC Santa Cruz’da önde gelen bir kozmoloji profesörü olan Anthony Aguirre, bu bildirgenin Asilomar Prensipleri’ni yeniden yapma çabası olmadığını; bunun yerine, karanlık bir yeni gerçekliğin sert bir kabulü olduğunu vurguladı. Eski meslektaşlarının artık büyük şirketlerin başında oldukları; yapay genel zeka elde etmek için rakiplerinden önce hareket etme çabası içinde olduğunu ve hissedarları memnun etmeden güvenliği ele almadıklarını ifade etti. Yapay zekanın gelişimini yönlendirme gücü giderek daha fazla bir avuç insanın elinde toplandı ve Trump yönetiminin agresif deregülasyonu onların güçlerini daha da pekiştirdi. “Diğer tüm insanlıkla birlikte, onların yapabilecekleri üzerindeki anlamlı kontrolü sağlayabilecek tek bir varlık, ABD hükümeti olabilirdi. Şimdi hükümet onların arkasında ve onları sınırlandırmak istemediği için, gerçek bir tehdit olan tek şey diğer şirketler.”
“Eğer hükümet bunu yapmazsa, halk hükümeti zorlamak zorundadır.”
Büyük Teknoloji ve kamu denetimi eksikliğinde, bu grubun aynı sorunlar etrafında bu kadar hızlı birleşmesinin ne kadar benzersiz olduğunu ifade etti Javorsky. Önümüzdeki günlerde, Javorsky sürekli aynı tekrarları duydu: “‘Bu işi doğru yapmazsak diğer meseleleri tartışma lüksüne sahip olmayacağız. Bu yüzden, bu işi doğru yapalım.’”
Weingarten’a göre, Bildirge, “anahtar talep eden koalisyonun” misyon beyanı olarak görev yapıyor – siyasi rakiplerin stratejik bir ittifakı ve tüm çabalarını hayata karşı yukarıda tutan bir hükümete karşı koordine tutma yolu. “Gerçekten önemli olan, AI’nin merkezinde insanlığın yer alması gerektiğini ifade eden daha büyük bir koalisyon oluşturma çabasında başka insanlarla yan yana olmamız,” dedi. AFT, belki çocuk güvenliği konusunu gündeme getirmişti. Ancak yasama organları üzerinde yalnızca bu kadar baskı yapabilirlerdi. Ama birkaç başka sendika, dini organizasyon ve diğer tarafa geçiş yapan bazı müttefikler ile güç birliği yaparlarsa? O zaman o yasama organları huzursuz olurdu. “Eğer hükümet bunu yapmazsa, halk hükümeti zorlamak zorundadır. İlk adım olarak bir ilke bildirgesi ile başlıyoruz.”
“Bütün bu işler hakkında söyleyebileceğim tek şey, gruba dikkatimi çektiklerinde şu: hiç kimse pro-insan hareketini mühendislikle inşa etmeyecek. Tek yapabileceğin bunu ilham etmektir,” dedi Allen. “Bunun gibi açıklamaların, pro-insan bir hareketi ilham etmesi gerektiğini düşünüyorum. Temel bir belgenin tonunu belirliyor… Hiçbir sosyal mühendislik, para ya da medya bunun yanında gelmeyecek.”
Ancak bunun neye benzeyeceği hala belirsiz – ya da en azından seçimlere kolayca çevrilemiyor. FLI, “İnsanı Koruyun” adında bir reklam kampanyası yürütüyor fakat 501(c)3 olarak, orta seçimler sırasında adaylar veya seçim girişimleri için destek veremiyor. Buna rağmen, Şubat ayında Tavern Araştırmaları ile bir anket gerçekleştirdiler ve bildirgenin ilkelerinin seçmenler arasında ne kadar popüler olduğunu incelediler. Katılımcılar, kimin için oy kullandıkları ve hangi partiye ait oldukları açısından net bir şekilde bölünmüş olsa da, bildirgede yer alan ifadeleri geniş bir farkla destekliyorlardı. En kötü performans gösteren ilke – yapay zekanın tekel yaratmaması veya kontrolü birkaç elde toplama – %69 destek aldı. En iyi performans gösteren ilke – insanların yapay zeka üzerinde kontrolü ellerinde tutmaları ve onun çocuklar, aileler ve topluluklara zarar vermesini önlemeleri gerektiği – %80 destek aldı.
Javorsky’ye göre, ankete katılanların sonuçları, konferansın noktalarını doğruladı. “Bir grup sivil toplum aktörünün bir araya toplanması ve bunun temsil niteliği taşıdığını düşünmek bir şey. Ancak bunun gerçek insanlarla doğrulanması gerekir. Bu, gerçekten onların kalbine hitap ediyor.”
Perşembe günü konuştuğumuzda, yakın zamanda yapay zekâlarının bilinç kazandığı olasılığını duyuran Anthropic, Pentagon ile insan denetimi olmadan yapay zekâsının otonom öldürücü silahlar için kullanılıp kullanılamayacağı konusundaki bir mücadeleyi sürdürüyordu. Cuma akşamı, OpenAI kendi Pentagon sözleşmesini almak için Anthropic’i hedef alarak yollarını ayırdı. Bu mücadelenin çözülmesinden günler sonra, ABD, Anthropic destekli araçları kullanarak İran Ayetullahı’nı öldürdü ve birkaç gün içinde yapay zeka işten çıkarmalarına dair daha fazla rapor ortaya çıktı; Pentagon’un toplu gözetim üzerindeki taleplerinin boyutu daha net hale geldi. İlerici Demokratlar Derneği CEO’su ve toplantıya katılan Alan Minsky, The Verge ile, bildirgeye yönelik ne soldan ne de sağdan bir siyasi karşıtlık görmediğini ifade etti.
“Altman ve Musk, kesinlikle topluluklar için ciddi tehdit olan meselelerle alakalı alaycı bir tutum sergilediler: insanlar arasındaki psikolojik çöküş, giderek çevrimiçi yaşayan bir nüfus, sürekli ekonomik eşitsizlik ve tabii ki, kazançtan önce temel korumanın sağlanması gerektiği fikrine duyulan saygısızlık,” dedi. “İnsanlık için varoluşsal tehdidin riskine artık göz ucuyla bile bakmıyorlar. Kamu, bu tutumlarını fark ettikçe, ortalama insanın refahıyla alay ettiklerini anladıkça – evet, halkın bizim tarafımızda olacağını düşünüyoruz.”
