Dünyanın dört bir yanından liderler ve politika yapıcılar önümüzdeki hafta Londra’da bir araya gelecek. dünyanın ilk yapay zeka güvenlik zirvesi. Pratik bir tartışmayı ümit eden herkes yakın vadeli yapay zeka zararları ve riskleri muhtemelen hayal kırıklığına uğrayacaktır. Bu hafta zirveden önce yayınlanan yeni bir tartışma belgesi neler beklenebileceğine dair küçük bir fikir veriyor ve bu makale saçma sapan şeylerle dolu. Yapay zeka yapımı biyolojik silahlardan, siber saldırılardan ve hatta manipülatif şeytani yapay zeka sevgisinden bahsediyoruz.
45 sayfalık kağıt“Sınır yapay zekasının yetenekleri ve riskleri” başlıklı makale, mevcut üretken yapay zeka modellerinin neler yapıp yapamayacağına dair nispeten basit bir özet sunuyor. Ancak raporun derinlere doğru gitmeye başladığı nokta, “sınır yapay zekası” olarak adlandırdığı gelecek, daha güçlü sistemler hakkında spekülasyon yapmaya başladığı zamandır. Makale, insanlığın “yanlış hizalanmış” yapay zeka sistemlerinin kontrolünü kaybetme olasılığı da dahil olmak üzere, en distopik yapay zeka felaketlerinden bazılarına karşı uyarıda bulunuyor.
Bazı yapay zeka risk uzmanları bu olasılığı değerlendiriyor, ancak diğerleri daha spekülatif felaket senaryolarının süslenmesine karşı çıkıyor ve bunun yakın vadedeki daha acil zararları azaltmak. Eleştirmenler de benzer şekilde Zirvenin varoluşsal sorunlara fazla odaklanmış göründüğünü savundu ve daha gerçekçi tehditler konusunda yeterli değil.
İngiltere Başbakanı Rishi Sunak, Perşembe günü yaptığı konuşmada potansiyel olarak tehlikeli, yanlış hizalanmış yapay zeka hakkındaki endişelerini yineledi.
Sunak, “En olası olmayan ancak aşırı durumlarda, bazen süper zeka olarak adlandırılan yapay zeka türü nedeniyle insanlığın yapay zekanın kontrolünü tamamen kaybetme riski bile var” dedi. buna göre CNBC. Geleceğe bakan Sunak, önemli bir yapay zeka raporu yayınlamak üzere zirveye katılan ülkeler tarafından aday gösterilen “gerçekten küresel bir uzman paneli” oluşturmak istediğini söyledi.
Ama bunun için bizim sözümüze güvenmeyin. Raporda bahsedilen felaket yüklü yapay zeka tahminlerinden bazılarını görmek için okumaya devam edin.