OpenAI, ortalama insandan çok daha akıllı olan yapay zeka sistemlerini nasıl kontrol edebileceğimize dair teknik araştırmaları desteklemek için 10 milyon dolarlık hibe sunuyor.
Şirket, gelecekteki insanüstü yapay zeka sistemlerinin uyumlu hale getirilmesine yönelik hibelerden elde edilen sonuçların veya Süper Hizalama Hızlı Hibelergüçlü modellerin zayıf denetimden nasıl genelleştirildiğine ışık tutmaya yardımcı olacaktır.
Yapay zeka laboratuvarı ayrıca yeni yapay zeka sistemlerinin çıktılarını değerlendirmek için yapay zeka sistemlerinin nasıl kullanılabileceğini ve yapay zekalı bir yalan dedektörünün nasıl oluşturulacağını anlamayı umuyor.
Milyonlarca satırlık kodu doğru şekilde değerlendirmek zor
@ericschmidt ile birlikte şunu duyuruyoruz: Superalignment Fast Grants. Zayıftan güçlüye genelleme, yorumlanabilirlik, ölçeklenebilir gözetim ve daha fazlası dahil olmak üzere insanüstü yapay zeka sistemlerinin hizalanmasına yönelik teknik araştırmalar için 10 milyon dolarlık hibe. 18 Şubat’a kadar başvurun! https://t.co/eCKwZWLSZE14 Aralık 2023
OpenAI, insanüstü yapay zeka sistemlerinin insanların tam olarak anlayamayacağı kadar karmaşık olacağını iddia ediyor. Bir model milyonlarca satırlık karmaşık kod üretiyorsa, kodun çalıştırılmasının güvenli mi yoksa tehlikeli mi olduğunu güvenilir bir şekilde değerlendiremeyiz.
OpenAI, X hakkındaki bir gönderide şunları yazdı: “Gelecekteki insanüstü yapay zeka sistemlerinin uyumlu ve güvenli olmasını nasıl sağlayacağımızı bulmak, dünyadaki çözülmemiş en önemli teknik sorunlardan biridir. Ancak bunun çözülebilir bir sorun olduğunu düşünüyoruz. Pek çok düşük seviye var. -meyve asmak ve yeni araştırmacılar muazzam katkılar sağlayabilir!”
Yani mevcut sistemler insan denetimine dayalıyken gelecekte beyin gücümüz artık yeterli olmayabilir. Bu nedenle OpenAI, insanların hala etkili bir şekilde kontrolü elinde tutmasının yollarını bulmak için bir adım öne geçmek istiyor.
OpenAI hibelerini kimler talep edebilir?
Hibeler esas olarak akademik laboratuvarlara, kar amacı gütmeyen kuruluşlara ve bireysel araştırmacılara yöneliktir. OpenAI ayrıca lisansüstü öğrenciler için bir yıllık 150.000 $’lık OpenAI Süper Hizalama Bursuna da sponsorluk yapıyor.
Şirketin araştırması, yapay zeka sistemlerini güvenli ve hesap verebilir tutmak için yedi uygulama belirledi ve şirket, bu çalışmadan ortaya çıkan bazı açık sorular üzerinde çalışabilecek daha fazla araştırmaya fon sağlanmasına yardımcı olmak istiyor.
Superalignment hibelerinin bir parçası olarak, aşağıdakileri ödüllendirmeyi amaçlamaktadır: Ajansal Yapay Zeka Araştırma Bursları Araştırmacıların süper akıllı yapay zeka sistemlerinin ve bunları güvenli hale getirecek uygulamaların etkilerini araştırmaları için bu alanda 10.000 ila 100.000 ABD Doları arasında bir miktar.
Ajansal yapay zeka sistemi nedir?
OpenAI, bu süper zeki yapay zekayı, çok çeşitli eylemleri gerçekleştirebilen ve belirli durumlarda bir kullanıcının karmaşık hedefler üzerinde kendi adına bağımsız olarak hareket etme konusunda onlara güvenebileceği kadar güvenilir olan ajansal yapay zeka sistemleri olarak adlandırır.
Örneğin, kişisel asistanınızdan pasta pişirme konusunda yardım isteyebilirsiniz; o da sizin için bir tarif yazdıracak ve gerekli tüm malzemelerin sipariş edilip zamanında evinize teslim edilmesini sağlayacaktır.
OpenAI araştırmacıları, toplumun, ajansal yapay zeka sistemlerinin tüm faydalarından yalnızca başarısızlıklarını, güvenlik açıklarını ve suiistimallerini azaltarak onları güvenli hale getirebilirse yararlanabileceğini söyledi.
Burada şirket özellikle, ajansal bir yapay zeka sisteminin belirli bir kullanım durumu için uygun olup olmadığının nasıl değerlendirilebileceği, eylemlerin ne zaman açık insan onayı gerektirmesi gerektiği ve bu tür akıllı sistemleri, iç sistemlerini görmemizi sağlayacak şekilde nasıl tasarlayabileceğimizle ilgileniyor. muhakeme.
Gelecek için ne anlama geliyor?
Kamuoyunun kullanımına sunulan mevcut yapay zeka araçları kesinlikle etkileyici ancak henüz OpenAI’nin kastettiği süper zeka düzeyinde değiller; yani insanlardan çok daha akıllı olan yapay zeka.
Ancak CEO’su Sam Altman sayesinde onların öyle olduğunu biliyoruz. halihazırda yeni GPT-5 modeli üzerinde çalışıyorlar süper zekaya dair ipuçları taşıyabileceğini söylüyor.
OpenAI, süper zekanın önümüzdeki on yıl içinde geliştirilebileceğini öngörüyor. Ne kadar endişelenmemiz gerektiği sorusunun cevabı OpenAI’nin en son araştırma hibelerinin sonuçlarına bağlı olabilir.