Bu hafta bir grup tanınmış ve saygın AI araştırmacısı imzalı Bir deyim 22 kelimeden oluşan:
AI kaynaklı yok olma riskini azaltmak, salgın hastalıklar ve nükleer savaş gibi diğer toplumsal ölçekli risklerin yanı sıra küresel bir öncelik olmalıdır.
Bir yapay zeka profesörü olarak ben de her türlü riski azaltmaktan yanayım ve bunun üzerinde kişisel olarak çalışmaya hazırım. Ancak bu şekilde ifade edilen herhangi bir ifadenin alarm yaratması kaçınılmazdır, bu nedenle yazarları muhtemelen daha spesifik olmalı ve endişelerini açıklığa kavuşturmalıdır.
Encyclopedia Britannica tarafından tanımlandığı gibi, yok olma “bir türün yok olması veya yok olması”. Alanında en saygın ve sağlam bilim adamları arasında yer alan bildiriyi imzalayanların çoğuyla tanıştım – ve kesinlikle iyi niyetliler. Ancak, böylesine aşırı bir olayın nasıl olabileceğine dair bize somut bir senaryo vermediler.
Bu pozisyonda ilk kez bulunmuyoruz. Bu yıl 22 Mart’ta, farklı bir grup girişimci ve araştırmacı tarafından imzalanan bir dilekçe AI dağıtımında altı aylık bir duraklama talep etti. Future of Life Enstitüsü’nün web sitesinde yer alan dilekçede, gerekçelerini şöyle açıklıyorlar: “Kapsamlı araştırmaların gösterdiği ve üst düzey AI laboratuvarları tarafından kabul edildiği üzere toplum ve insanlık için büyük riskler” – ve taleplerine bir listeyle eşlik etti retorik sorular:
Makinelerin bilgi kanallarımızı propaganda ve gerçek olmayan şeylerle doldurmasına izin vermeli miyiz? Tatmin edici olanlar da dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün olabilecek, zekice üstün gelebilecek, modası geçmiş ve bizim yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskini almalı mıyız?
Genel bir alarm duygusu
Bu teknolojinin pek çok faydasının yanı sıra ciddiye almamız gereken riskleri de beraberinde getirdiği kesinlikle doğrudur. Ancak yukarıda bahsedilen senaryoların hiçbiri, yok oluşa giden belirli bir yolun ana hatlarını çizmiyor gibi görünüyor. Bu, yapabileceğimiz herhangi bir olası eylem olmaksızın, genel bir alarm duygusuyla baş başa kaldığımız anlamına gelir.
web sitesi Yapay Zeka Güvenliği Merkezien son ifadenin göründüğü yer, ayrı bir bölümde özetlenir sekiz geniş risk kategorisi. Bunlar arasında yapay zekanın “silahlaştırılması”, haber sistemini manipüle etmek için kullanılması, insanların sonunda kendi kendini yönetemez hale gelme olasılığı, baskıcı rejimlerin kolaylaştırılması vb.
Silahlandırma dışında, diğer – hala korkunç – risklerin türümüzün yok olmasına nasıl yol açabileceği belirsiz ve bunu açıklama yükü bunu iddia edenlere ait.
Silahlandırma elbette ki gerçek bir kaygı ama bununla ne kastedildiğini de açıklığa kavuşturmak gerekiyor. Web sitesinde, Yapay Zeka Güvenliği Merkezi’nin ana endişesinin, yapay zeka sistemlerinin kimyasal silahlar tasarlamak için kullanılması olduğu görülüyor. Bu her ne pahasına olursa olsun engellenmelidir – ancak kimyasal silahlar zaten yasaklanmıştır. Sönme, çok özel açıklamalar gerektiren çok özel bir olaydır.
16 Mayıs’ta ABD Senatosu duruşmasında, ChatGPT yapay zeka sohbet robotunu geliştiren OpenAI’nin CEO’su Sam Altman’dan iki kez en kötü durum senaryosunu açıklaması istendi. Sonunda cevap verdi:
En büyük korkum, bizim – alan, teknoloji, endüstri – dünyaya ciddi zararlar vermemiz… Bu yüzden şirketi kurduk [to avert that future] … Bence bu teknoloji ters giderse, oldukça ters gidebilir.
Ancak, olabildiğince dikkatli olmaktan kesinlikle yanayım ve bunu son on yıldır herkesin önünde söylüyor olsam da, bir orantı duygusunu korumak önemlidir – özellikle sekiz milyarlık bir türün yok oluşunu tartışırken. bireyler.
AI, gerçekten önlenmesi gereken sosyal sorunlar yaratabilir. Bilim adamları olarak bunları anlamak ve sonra çözmek için elimizden gelenin en iyisini yapmak görevimiz var. Ancak ilk adım, onları adlandırmak, tanımlamak ve spesifik olmaktır.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Nello CristianiniYapay Zeka Profesörü, Bath Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.