ChatGPT’nin sahneye çıkmasından bu yana altı aydan fazla zaman geçti. O zamandan beri, şu ya da bu şekilde yapay zeka yağıyor. OpenAI yaratıcısı ChatGPT şimdi yeni nesil yapay zekaya bakıyor ve onunla birlikte gelen riskleri kontrol ediyor. Bir blog gönderisinde şirket, Süper Akıllı Yapay Zeka için fikirlerini özetledi. “Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının birçoğunu çözmemize yardımcı olabilir. Ancak süper zekanın muazzam gücü de çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabilir” dedi.
OpenAI, şu anda potansiyel olarak süper zeki bir yapay zekayı yönlendirmek veya kontrol etmek ve onun haydutlaşmasını önlemek için bir çözüm olmadığına inanıyor. Tamamen yeni bir ekip kurmasının nedenlerinden biri de bu.
Yeni ekip ne üzerinde çalışacak?
Şirkete göre ekip, bu sorun üzerinde çalışacak en iyi makine öğrenimi araştırmacıları ve mühendislerinden oluşacak. OpenAI, “Önümüzdeki dört yıl boyunca bugüne kadar güvence altına aldığımız bilgi işlemin %20’sini süper zeka hizalaması sorununu çözmeye ayırıyoruz” dedi. Ayrıca, “Başlıca temel araştırma iddiamız, yeni Superalignment ekibimizdir, ancak bunu doğru yapmak, misyonumuza ulaşmak için kritik öneme sahiptir ve yeni yöntemler geliştirmekten bunları konuşlandırmaya kadar ölçeklendirmeye kadar birçok ekibin katkıda bulunmasını bekliyoruz.”
OpenAI, bunun bir makine öğrenimi sorunu olacağına inanıyor. İşte bu nedenle OpenAI, bu çabaya katılmak için olağanüstü yeni araştırmacılar ve mühendisler arıyor. Şirket, “Süper zeka hizalaması temelde bir makine öğrenimi sorunudur ve harika makine öğrenimi uzmanlarının – halihazırda hizalama üzerinde çalışmıyor olsalar bile – bunu çözmek için kritik öneme sahip olacağını düşünüyoruz” dedi.
FacebooktwitterLinkedin
makalenin sonu