OpenAI, insan benzeri SuperAI’yi kontrol etmek için çok cesur yeni bir yöntem öneriyor. Ilya Sutskever ve OpenAI’deki ekibi, GPT-4 veya ötesi gibi daha gelişmiş bir modele düzgün davranması için rehberlik etmek üzere daha az karmaşık ancak GPT-2 gibi sağlam inşa edilmiş bir model kullanabileceklerine inanıyor.
OpenAI’deki son iç değişimlere rağmen Ilya Sutskever liderliğindeki Superalignment ekibi, süper akıllı yapay zeka sistemlerini yönlendirmek ve düzenlemek için stratejiler geliştirme misyonunda kararlılığını sürdürüyor.
Temmuz ayında kurulan bu ekip, insan zekasını aşan yapay zeka modellerini hizalamanın karmaşık zorluklarıyla mücadele ediyor.
Bazı şüpheciler süper akıllı yapay zekaya odaklanmanın henüz erken olduğunu savunurken, TechCrunch tarafından bildirildiği üzere Superalignment ekibi, oldukça akıllı sistemlerle ilişkili potansiyel riskleri ele almak için aktif olarak yönetişim ve kontrol çerçevelerini araştırıyor.
Şu anda Collin Burns, Pavel Izmailov ve Leopold Aschenbrenner’den oluşan Superalignment ekibi, en son çalışmalarını NeurIPS konferansında sundu.
Yaklaşımları, daha gelişmiş bir modeli (örneğin, GPT-4) istenen davranışlara doğru ve istenmeyen davranışlardan uzaklaştırmak için daha az karmaşık bir yapay zeka modelinin (örneğin, GPT-2) kullanılmasını içerir.
Zayıf modelin insan denetçileri temsil ettiği ve güçlü modelin süper zeki yapay zekayı simgelediği bu benzetme, hizalama hipotezlerini kontrollü bir şekilde keşfetmeyi amaçlıyor.
Ekip, yapay zeka modellerine etkili bir şekilde talimat vermeye, verilen talimatları takip etmelerini sağlamaya ve oluşturulan çıktıların güvenliğini ve doğruluğunu doğrulamaya odaklanıyor.
Superalignment ekibi, insan zekasını aşan modelleri hizalamanın zorluklarını kabul ediyor ve bu kritik konuyu ele almada araştırmanın önemini vurguluyor.
OpenAI, bu alanda işbirliğini ve yeniliği teşvik etmek amacıyla süper akıllı hizalamaya ilişkin teknik araştırmalar için 10 milyon dolarlık bir hibe programı başlatıyor. Program, akademik laboratuvarlara, kar amacı gütmeyen kuruluşlara, bireysel araştırmacılara ve lisansüstü öğrencilere fon tahsis edecek.
OpenAI’nin destekçisi ve AI araştırmalarının savunucusu olan eski Google CEO’su Eric Schmidt, finansmana katkıda bulunuyor. OpenAI ayrıca araştırma bulgularını paylaşmak ve tanıtmak için 2025’in başlarında süper hizalama konusunda bir akademik konferansa ev sahipliği yapmayı planlıyor.
Superalignment ekibi, kod da dahil olmak üzere araştırmalarını halkla paylaşmaya kararlıdır. Ekibin misyonu, OpenAI’nin yapay zekanın insanlığa güvenli bir şekilde fayda sağlamasını sağlama yönündeki genel hedefiyle uyumludur.
Yapay zekaya yönelik ticari çıkarları dikkat çeken Schmidt’in katılımı, OpenAI’nin süper hizalama araştırmasının ticari ve etik sonuçları hakkında soruları gündeme getiriyor. Bununla birlikte ekip, gelişmiş yapay zekanın daha geniş bir topluluk için güvenliğine ve faydasına katkıda bulunmaya kendini adamıştır.
(Kurumlardan gelen girdilerle)
