İsviçre’deki Suudi destekli bir işletme okulu, dünyayı “tanrı benzeri” yapay zeka olarak adlandırdığı “kontrolsüz yapay genel zekanın” zararları konusunda uyarmak için bir Kıyamet Saati başlattı. 1980’lerde Excel tabloları üzerinden ofis satan kişilerin işçilere yazılımın bir tanrıyı doğurmaya giden yol olduğunu anlatmaya çalıştıklarını ve bunu yapmak için çalışan bir Rolex kullandıklarını hayal edin; burada neyle karşı karşıya olduğumuza dair bir fikir edineceksiniz.
Saatin yaratıcısı ve Lozan, İsviçre’deki IMD Business School’da TONOMUS Strateji ve Dijital Profesörü ve TONOMUS Küresel Dijital ve Yapay Zeka Dönüşüm Merkezi Direktörü (aman tanrım) Michael Wade, yakın zamanda saati tanıttı. TIME için köşe yazısı.
Gece yarısına doğru ilerleyen bir saat, atom çağından kalma bir zamanlar güçlü ama artık bayat bir metafordur. O kadar eski ve öyle kalmış bir görüntü ki, 75’inci yılını yeni kutladı. Amerika Japonya’ya nükleer bomba attıktan sonra, silahı geliştirmek için çalışan bazı araştırmacılar ve bilim adamları Atom Bilimcileri Bülteni’ni oluşturdular.
Projeleri dünyayı yaklaşan yıkım konusunda uyarmaktı. Kıyamet Saati bunu yapma yollarından biridir. Her yıl nükleer silahlardan iklim değişikliğine ve evet yapay zekaya kadar çeşitli alanlardaki uzmanlar bir araya geliyor ve dünyanın ne kadar berbat durumda olduğunu tartışıyorlar. Daha sonra saati ayarladılar. Gece yarısına yaklaştıkça insanlık kıyamete daha da yaklaşıyor. Şu anda şu saatte Gece yarısına 90 saniyesaat şimdiye kadar ayarlanmış en yakın saat.
Wade ve IMD’nin Atom Bilimcileri Bülteni ile hiçbir ilişkisi yoktur ve Kıyamet Saati başlı başına bir şeydir. Wade’in yarattığı Yapay Zeka Güvenlik Saati. “Saat’in mevcut okuması – gece yarısına 29 dakika – kontrolsüz YGZ’nin varoluşsal risklere yol açabileceği kritik devrilme noktasına ne kadar yakın olduğumuzun bir ölçüsüdür” dedi. Zaman makalesi. “Henüz felaket boyutunda bir zarar meydana gelmemiş olsa da, yapay zeka gelişiminin baş döndürücü hızı ve düzenlemelerin karmaşıklığı, tüm paydaşların tetikte ve ilgili kalması gerektiği anlamına geliyor.”
Silikon Vadisi’nin en gürültülü yapay zeka savunucuları nükleer metafora yaslanmayı seviyor. OpenAI CEO’su Sam Altman, şirketinin çalışmalarını Manhattan Projesi ile karşılaştırdı. Senatör Edward J. Markey (D-MA) yazdı Amerika’nın yapay zekayı benimseme telaşı Oppenheimer’ın atom bombası arayışına benziyor. Bu korku ve endişelerin bir kısmı gerçek olabilir ama günün sonunda bunların hepsi pazarlamadır.
Yapay zekayla ilgili bir heyecan döngüsünün ortasındayız. Şirketler, benzeri görülmemiş getiriler sağlayabileceğini ve işçilik maliyetlerini ortadan kaldırabileceğini vaat ediyor. Makinelerin yakında bizim için her şeyi yapacağını söylüyorlar. Gerçek şu ki, yapay zeka faydalıdır ancak aynı zamanda çoğunlukla işçilik ve üretim maliyetlerini, son kullanıcının göremeyeceği zincirin diğer kısımlarına taşır.
Yapay zekanın çok ilerleyerek insanlığı yok edeceği korkusu sadece başka bir tür aldatmacadır. Kelime hesaplayıcılar ve tahmine dayalı modelleme sistemleri hakkındaki felaketçilik, insanları bu teknolojinin olanakları konusunda heyecanlandırmanın başka bir yoludur ve gerçek zararı maskelemek yaratır.
Yakın zamanda gerçekleşen bir Tesla etkinliğinde robot barmenler katılımcılara içecek döktü. Görünüşe göreinsanlar tarafından uzaktan kontrol ediliyorlardı. LLM’ler bir ton yakıyor su ve elektrik Cevaplar bulurken ve çoğu zaman ince ve sürekli dikkatine güvenirken insan “eğiticileri” fakir ülkelerde çalışıp cüzi bir ücret karşılığında çalışanlar. İnsanlar bu teknolojiyi interneti diğer insanların rızası olmadan oluşturulmuş çıplak görüntüleriyle doldurmak için kullanıyor. Bunlar, Silikon’un yapay zekayı hızla benimsemesinin halihazırda neden olduğu gerçek dünyadaki zararlardan sadece birkaçı.
Skynet’in hayata gelip gelecekte insanlığı yok etmesinden korktuğunuz sürece, önünüzdeki sorunlara dikkat etmiyorsunuz demektir. Bülten’in Kıyamet Saati görünüşte gizemli görünebilir, ancak bu metaforun arkasında, nükleer silahların ve yeni teknolojilerin gerçek riskleri hakkında her gün çalışmalar yapan etkileyici beyinlerden oluşan bir ordu var.
Eylül ayında Bülten, bir makaleye Altman’ın bir resmini koydu hiperbolik iddiaların çürütülmesi Yapay zekanın yeni biyolojik silahlar tasarlamak için nasıl kullanılabileceği hakkında. Makalede, “Bütün bu felaket haberlerine rağmen yapay zekanın biyolojik silahları ve daha geniş biyogüvenlik alanını nasıl etkileyeceğine dair aslında pek çok belirsizlik var” denildi.
Ayrıca yapay zekayla ilgili aşırı senaryolardan bahsetmenin, insanların daha zor konuşmalar yapmaktan kaçınmasına yardımcı olduğunu da vurguladı. Bülten, “Yirmi yılı aşkın süredir olduğu gibi, buradaki zorluk, biyolojik silahsızlanmayı etkileyen bilimsel ve teknolojik gelişmelere ve biyolojik silahları savaş planlarının ve şiddet yanlısı aktörlerin cephaneliklerinin dışında tutma çabalarına ilişkin ilgisizlik ve abartıdan kaçınmaktır” dedi. . “Yapay zeka hakkındaki tartışmalar üst düzey ve toplumun dikkatini çekiyor ve… diğer riskleri ve fırsatları gözden kaçıran aşırı dar bir tehdit odağını riske atıyor.”
Kıyamet Saati’ni yönetenlerin her yıl buna benzer onlarca yazısı yayınlanıyor. İsviçre AI saatinin böyle bir bilimsel desteği yok, ancak SSS bölümünde bu tür makaleleri izlediğini iddia ediyor.
Onun yerine Suudi Arabistan’dan gelen para var. Wade’in okuldaki konumu mümkün finansman sayesinde NEOM’un bir yan kuruluşu olan TONOMUS’tan. NEOM, Suudi Arabistan’ın çölde inşa etmeye çalıştığı, geleceğin çok abartılı şehri. NEOM’un diğer vaatleri arasında şunlar yer alıyor: robot dinozorlar, uçan arabalar ve dev bir yapay ay.
Wade’i veya Yapay Zeka Güvenlik Saatini ciddiye almazsam beni affedin.