OpenAI, “süper zeki” AI sistemlerini yönlendirmek ve kontrol etmek için yollar geliştirmek üzere şirketin baş bilim adamı ve şirketin kurucu ortaklarından biri olan Ilya Sutskever liderliğinde yeni bir ekip kuruyor.
İçinde Blog OpenAI’deki hizalama ekibinin liderlerinden Sutskever ve Jan Leike, bugün yayınlanan bir gönderiye göre, insanlarınkini aşan zekaya sahip yapay zekanın on yıl içinde gelebileceğini tahmin ediyor. Sutskever ve Leike, bu yapay zekanın – gerçekten de sonunda varacağını varsayarsak – mutlaka hayırsever olmayacağını ve onu kontrol etmenin ve kısıtlamanın yollarını araştırmayı gerektirdiğini söylüyor.
“Şu anda, potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydutlaşmasını önlemek için bir çözümümüz yok” diye yazıyorlar. “İnsan geri bildirimlerinden öğrenmeyi pekiştirmek gibi yapay zekayı hizalamaya yönelik mevcut tekniklerimiz, insanların yapay zekayı denetleme becerisine dayanıyor. Ancak insanlar, yapay zeka sistemlerini bizden çok daha akıllı şekilde güvenilir bir şekilde denetleyemeyecek.”
OpenAI, “süper zeka hizalaması” alanında iğneyi ileriye taşımak için, hem Sutskever hem de Leike tarafından yönetilen ve şirketin bugüne kadar güvence altına aldığı bilgi işlemin %20’sine erişebilecek yeni bir Süper Hizalama ekibi oluşturuyor. OpenAI’nin önceki hizalama bölümünden bilim adamları ve mühendislerin yanı sıra şirket genelindeki diğer kuruluşlardan araştırmacıların bir araya geldiği ekip, önümüzdeki dört yıl içinde süper akıllı yapay zekayı kontrol etmenin temel teknik zorluklarını çözmeyi amaçlayacak.
Nasıl? Sutskever ve Leike’nin “insan düzeyinde otomatik hizalama araştırmacısı” olarak tanımladığı şeyi oluşturarak. Üst düzey hedef, yapay zeka sistemlerini insan geri bildirimlerini kullanarak eğitmek, yapay zekayı diğer yapay zeka sistemlerini değerlendirmeye yardımcı olacak şekilde eğitmek ve nihayetinde hizalama araştırması yapabilen yapay zeka oluşturmaktır. (Burada “hizalama araştırması”, AI sistemlerinin istenen sonuçlara ulaşmasını veya raydan çıkmamasını sağlamayı ifade eder.)
Yapay zekanın insanlardan daha hızlı ve daha iyi hizalama araştırması ilerlemesi sağlayabileceği OpenAI’nin hipotezidir.
Leike ve meslektaşları John Schulman ve Jeffrey Wu, “Bu konuda ilerleme kaydettikçe, AI sistemlerimiz hizalama çalışmalarımızın daha fazlasını devralabilir ve nihayetinde şu anda sahip olduğumuzdan daha iyi hizalama teknikleri tasarlayabilir, uygulayabilir, inceleyebilir ve geliştirebilir.” varsayılan önceki bir blogda postalamak. “Kendi haleflerinin insanlarla daha uyumlu olmasını sağlamak için insanlarla birlikte çalışacaklar. İnsan araştırmacılar, bu araştırmayı kendi başlarına oluşturmak yerine yapay zeka sistemleri tarafından yapılan hizalama araştırmasını gözden geçirme çabalarına giderek daha fazla odaklanacaklar.”
Elbette hiçbir yöntem kusursuz değildir ve Leike, Schulman ve Wu gönderilerinde OpenAI’nin birçok sınırlamasını kabul ediyor. Değerlendirme için AI kullanmanın, bu AI’daki tutarsızlıkları, önyargıları veya güvenlik açıklarını artırma potansiyeline sahip olduğunu söylüyorlar. Ve hizalama probleminin en zor kısımlarının mühendislikle hiç ilgili olmadığı ortaya çıkabilir.
Ancak Sutskever ve Leike, denemeye değer olduğunu düşünüyor.
“Süper zeka hizalaması temelde bir makine öğrenimi sorunudur ve harika makine öğrenimi uzmanlarının – halihazırda hizalama üzerinde çalışmıyor olsalar bile – bunu çözmede kritik öneme sahip olacağını düşünüyoruz” diye yazıyorlar. “Bu çabanın meyvelerini geniş çapta paylaşmayı planlıyoruz ve OpenAI dışı modellerin uyumluluğuna ve güvenliğine katkıda bulunmayı işimizin önemli bir parçası olarak görüyoruz.”