ChatGPT’nin oluşturulmasında yer alan bir araştırmacı, yapay zekanın pekala insanlığın kıyametine yol açabileceği konusunda uyardı – veya en azından bu senaryonun gerçekleşme şansı yaklaşık %50’dir.
İş İçeriği (yeni sekmede açılır) OpenAI’de dil modeli hizalama ekibine liderlik eden, ancak o zamandan beri şirketten ayrılan ve şimdi kar amacı gütmeyen Hizalama Araştırma Merkezi’nin başında bulunan Paul Christiano’nun uyarıda bulunduğunu bildirdi. bankasız (yeni sekmede açılır) dijital ses dosyası.
Röportaj sırasında sunucular, Yudkowsky’nin uzun yıllardır (aslında birkaç on yıldır) tanınmış bir yapay zeka şüphecisi olduğu bir “Eliezer Yudkowsky kıyamet senaryosu” olasılığını gündeme getirdi.
Christiano ev sahiplerine şunları söyledi: “Yapay zekayı geliştirdikten sonra Eliezer bu son derece hızlı dönüşüme giriyor. Bu konuda biraz daha az aşırı bir görüşüm var.
Daha sonra, yapay zeka değişimini hızlandıran kademeli bir vites yükseltme sürecini daha çok açıklıyor ve şunu gözlemliyor: “Genel olarak, belki de insan düzeyindeki yapay zeka sistemlerine sahip olduktan kısa bir süre sonra 50/50’ye varan bir kıyamet şansınız oluyor. ”
Christiano ayrıca podcast’te, sonunda “AI’nın %10-20’lik bir ihtimalle ele geçirilme şansı” olduğunu ve bunun birçok (veya aslında çoğu) insanın öldüğü oldukça kasvetli bir senaryoyla sonuçlandığını söyledi. Christiano, “Bunu oldukça ciddiye alıyorum,” diye ekliyor. Şaka değil.
Hizalama Araştırma Merkezi’nin misyonu, “gelecekteki makine öğrenimini uyumlu hale getirmektir. [AI] insan çıkarları olan sistemler”.
Kıyamet Ebedi mi?
Bu, dünyanın yapay zekadan nasıl olumsuz etkilenebileceğine dair son uyarılardan oluşan oldukça eski bir yığından bir diğeri. Ve kesinlikle en aşırı olanlardan biri, insanlığın kıyametinden ve dünya nüfusunun büyük ölçüde yok edilmesinden söz edildiğinde.
Kabul edilirse, Christiano bile ikincisinin olma ihtimalinin görece küçük bir ihtimalden fazla olduğunu düşünmüyor, ancak yine de, düşmanca bir yapay zekanın ele geçirilmesi için %20’lik bir zar atma (en kötü durum senaryosu), kimsenin hoşlanacağı bir olasılık değil.
Herhangi bir yapay zeka ele geçirmesinin düşmanca olması elbette ilginçtir. Sadece bir kez olsun, gerçekten bizim çıkarlarımıza en iyi şekilde hükmeden, düşünülmüş ve yardımsever bir yapay zekanın geliştirilmesine sahip olamaz mıyız? Hayır. Herhangi bir yapay zeka iyi niyetle başlayabilir, ancak kaçınılmaz olarak yoldan çıkacaklar ve ‘daha iyi’ yargıları muhteşem şekillerde ters gidecek. Filmleri gördün, değil mi?
Tüm ciddiyeti içinde, şimdi vurgulanmak istenen nokta şu ki, yapay zeka gerçekten zeki olmasa da – henüz öyle değil, temelde hala büyük (devasa) bir veri yığını, tüm bu verileri eziyor ve kuşkusuz şimdiden söz konusu materyali etkileyici bir şekilde kullanıyor. – gelecekte olası bir felaketin önüne geçmek için hala bir an önce yönergelere ve kurallara ihtiyacımız var.
Bu felaketler, örneğin bildiğimiz dünyanın sonu (TM) yerine mahremiyet ihlalleri şeklini alabilir, ancak yine de bunlara karşı korunmaları gerekir.
Bir uzman tarafından yapay zeka hakkında verilen en son uyarı, Google’dan yeni ayrılan sözde ‘Yapay zekanın babası’ndan geliyor. Geoffrey Hinton, yapay zekanın bizi beklediğinden çok daha hızlı bir şekilde zekice alt etmesi tehlikeleri de dahil olmak üzere, yapay zekaya karşı veya en azından onun kontrolsüz ve hızlı büyümesine karşı – ki bu şu anda gerçekleşiyor – genel durumu temel olarak özetledi. Zaten çok gerçek olan işlere yönelik tehditten bahsetmiyorum bile. Bu, kitabımızda yakın vadedeki en acil tehlikedir.
Bu, ChatGPT ve diğer AI sistemlerinin geliştirilmesine en az altı ay süreyle ara verilmesi çağrısında bulunan ve diğerlerinin yanı sıra Elon Musk tarafından imzalanan (“yok etme olasılığının düşük” olduğunu vaat ettiği bir AI şeklinde kendi yanıtı olan) açık bir mektubu takip eder. insanlar”).
