Bu sizin AGI tanımınıza bağlı, değil mi? AGI tekillik değildir. Tekillik, insan zekasına benzeyebilecek her şeyin çok ötesinde çok hızlı bir şekilde hızlanan, katlanarak yinelenen, kendini geliştiren bir sistemdir.
Bana göre AGI, insan düzeyindeki tüm eğitim ortamlarında iyi performans gösterebilen genel amaçlı bir öğrenme sistemidir. Yani bilgi işi, bu arada, fiziksel emeği de içeriyor. Şüpheciliğimin büyük bir kısmı robotikte işlerin yapılmasındaki ilerleme ve karmaşıklıkla ilgili. Ancak evet, çok çeşitli ortamlarda iyi performans göstermeyi -önceden çok fazla el işi yönlendirme olmadan- öğrenebilen bir sistemimiz olduğunu hayal edebiliyorum. Bunun mutlaka YZG olacağını ya da tekilliğe yol açacağını düşünmüyorum, ancak bu, önümüzdeki beş ila 10 yıl içinde insani bilgi çalışmalarının çoğunun muhtemelen geliştirdiğimiz yapay zeka sistemlerinden biri tarafından gerçekleştirilebileceği anlamına geliyor. Ve sanırım tekillik ya da yapay süper zeka etrafındaki dilden uzak durmamın nedeni bunların çok farklı şeyler olduğunu düşünmemdir.
YGZ’nin sorunu o kadar dramatize edilmiş olması ki, sonunda sistemin yapabilecekleri belirli yeteneklere odaklanmamamız. Yapay zeka yoldaşları oluşturma, onların bir insan olarak size faydalı olmalarını, bir insan olarak sizin için çalışmalarını, sizin tarafınızda, kendi köşenizde ve ekibinizde olmalarını sağlamak konusunda önemsediğim şey de bu. Benim motivasyonum bu ve teorik süper zeka arayışını sürdürmek yerine, insanlara hesap verebilir ve faydalı sistemler yaratmaya çalışmak için kontrol ve etki sahibi olduğum şey bu.
