Google DeepMind Çarşamba günü bir kapsamlı kağıt AGI’ya güvenlik yaklaşımı üzerine, kabaca bir insanın yapabileceği herhangi bir görevi yerine getirebilen AI olarak tanımlanır.
AGI, AI alanında biraz tartışmalı bir konudur. muhalifler bir boru rüyasından biraz daha fazlası olduğunu öne sürüyor. Antropik gibi büyük AI laboratuvarları da dahil olmak üzere diğerleri, köşede olduğu konusunda uyarıyor ve uygun güvenceleri uygulamak için adımlar atılmazsa felaket zararlarına neden olabilir.
DeepMind’in DeepMind kurucu ortağı Shane Legg tarafından birlikte yazılan 145 sayfalık belgesi, Agi’nin 2030 yılına kadar gelebileceğini ve yazarların “ciddi zarar” dediği şeye neden olabileceğini öngörüyor. Makale bunu somut bir şekilde tanımlamıyor, ancak “insanlığı kalıcı olarak yok eden” “varoluşsal risklerin” alarmist örneğini veriyor.
“[We anticipate] Mevcut on yılın bitiminden önce olağanüstü bir AGI’nin geliştirilmesi, ”diye yazdı yazarlar.“ Olağanüstü bir AGI, yeni beceriler öğrenmek gibi metakilognitif görevler de dahil olmak üzere, fiziksel olmayan görevlerde yetenekli yetişkinlerin en az 99. yüzdelik dilimine sahip bir yeteneğe sahip bir sistemdir. ”
Yarasa dışında, makale DeepMind’in AGI risk azaltma tedavisini Antropic’ler ve Openai’lerle karşılaştırıyor. Antropik, “sağlam eğitim, izleme ve güvenliğe” daha az vurgu yaparken, Openai hizalama araştırması olarak bilinen bir AI güvenlik araştırmasının “otomatikleştirilmesi” konusunda aşırı yükselişte.
Makale ayrıca, işleri herhangi bir insandan daha iyi gerçekleştirebilen Superintelligent AI – AI’nın uygulanabilirliği konusunda şüphe uyandırıyor. (Openai kısa bir süre önce amacını AGI’dan süper -süpergansa çevirdiğini iddia etti.) “Önemli mimari inovasyon” yoktu, Deepmind yazarları süper -superingent sistemlerinin yakında ortaya çıkacağına ikna olmadılar.
Makale, mevcut paradigmaların “özyinelemeli AI iyileştirmesi” sağlayacağını makul buluyor: AI’nın daha sofistike AI sistemleri oluşturmak için kendi AI araştırmasını yürüttüğü olumlu bir geri bildirim döngüsü. Ve bu inanılmaz derecede tehlikeli olabilir, yazarları iddia eder.
Yüksek düzeyde, makale kötü aktörlerin varsayımsal AGI’ya erişimini engellemek, AI sistemlerinin eylemlerinin anlayışını geliştirmek ve AI’nın hareket edebileceği ortamları “sertleştirmek” için tekniklerin geliştirilmesini önermekte ve savunmaktadır. Tekniklerin çoğunun yeni ortaya çıktığını ve “açık araştırma sorunları” olduğunu kabul ediyor, ancak muhtemelen ufukta güvenlik zorluklarını görmezden gelmeye karşı uyarılıyor.
Yazarlar, “AGI’nın dönüştürücü doğası hem inanılmaz faydalar hem de ciddi zararlar verme potansiyeline sahiptir” diyor. “Sonuç olarak, AGI’yi sorumlu bir şekilde inşa etmek için, Frontier AI geliştiricilerinin proaktif olarak ciddi zararları azaltmayı planlaması kritiktir.”
Bununla birlikte, bazı uzmanlar makalenin tesislerine katılmıyorlar.
Kâr amacı gütmeyen AI Now Enstitüsü Baş AI bilim adamı Heidy Khlaaf, TechCrunch’a AGI kavramının “bilimsel olarak titizlikle değerlendirilemeyecek şekilde” tanımlanmış olduğunu düşündüğünü söyledi. Bir başka AI araştırmacısı, Alberta Üniversitesi’nde yardımcı doçent olan Matthew Guzdial, özyinelemeli AI iyileştirmesinin şu anda gerçekçi olduğuna inanmadığını söyledi.
“[Recursive improvement] zeka tekillik argümanlarının temeli, ”dedi Guzdial TechCrunch’a,“ ama onun çalışması için hiç kanıt görmedik. ”
Oxford’da teknoloji ve düzenleme okuyan bir araştırmacı olan Sandra Wachter, daha gerçekçi bir endişenin kendisini “yanlış çıktılar” ile güçlendirdiğini savunuyor.
TechCrunch, “İnternette üretken AI çıktılarının çoğalması ve otantik verilerin kademeli olarak değiştirilmesi ile modeller, artık kendi çıkışlarından veya halüsinasyonlarla dolu kendi çıktılarından öğreniyor” dedi. “Bu noktada, sohbet botları ağırlıklı olarak arama ve gerçeği bulma amaçları için kullanılmaktadır. Bu, sürekli olarak yanlış beslenme ve onlara inanma riskiyle karşı karşıya olduğumuz anlamına gelir, çünkü çok ikna edici şekillerde sunulurlar.”
Olabildiğince kapsamlı olan DeepMind’in makalesi, AGI’nin ne kadar gerçekçi olduğu ve AI güvenliği alanlarının en acil dikkat gerektirdiği tartışmaları çözme olasılığı düşüktür.
