OpenAI, yapay zeka sistemlerinin “güvenli, güvenilir ve insan değerleriyle tutarlı” olmasını sağlamak amacıyla çalışan bir ekibi dağıttı. Aynı zamanda, ekibin eski lideri şirketin “chief futurist” olarak yeni bir pozisyona atandı.
TechCrunch’a doğrulanan bilgiye göre, ekibin üyeleri şimdi farklı görevlerde çalışıyor. Bu haber, ilk olarak Platformer tarafından duyuruldu.
Söz konusu ekip, 2024 Eylül ayında kurulduğu anlaşılan ve eşitlik çalışmalarına odaklanan birimi temsil ediyordu. Bu, sektör içinde, yapay zekanın insan çıkarları doğrultusunda hareket etmesini sağlamayı amaçlayan geniş bir ilgi alanıdır.
OpenAI’nın Eşitlik Araştırma blogunda belirtilene göre, “Bu sistemlerin karmaşık, gerçek dünya senaryolarında ve düşmanca koşullarda, insan niyetini tutarlı bir şekilde takip etmesini, felakete yol açacak davranışlardan kaçınmasını ve insan değerleriyle uyumlu kalmasını istiyoruz.”
OpenAI’nın Eşitlik ekibi için bir iş ilanında, bu ekibin “yapay zekanın geniş bir senaryo yelpazesinde insan niyetini güçlü bir şekilde takip etmesini sağlayan metodolojilerin geliştirilmesine” adandığı ifade ediliyor.
Eski Eşitlik ekibi lideri Josh Achiam, Çarşamba günü yayımlanan bir blog yazısında, yeni rolünü “chief futurist” olarak açıkladı. Achiam, “Amacım, OpenAI’nın misyonunu desteklemek – yapay genel zekanın tüm insanlık için faydalı olmasını sağlamak – ve AI’nin etkisiyle dünyanın nasıl değişeceğini araştırmak” dedi.
Achiam, yeni rolünde OpenAI teknik ekibinden bir fizikçi olan Jason Pruet ile işbirliği yapacağını belirtti.
OpenAI sözcüsü, Eşitlik ekibinin geri kalanında bulunan altı veya yedi kişinin, firmanın farklı bölümlerine tayin edildiğini söyledi. Ancak, bu kişilerin tam olarak hangi yöne atandığına dair bir bilgi vermedi. Achiam’ın “futurist” rolü altında yeni bir ekibi olup olmayacağı da belirsizliğini koruyor.
Sözcü, ekibin dağılmasını hızlı hareket eden bir şirkette meydana gelen rutin yeniden organizasyonlardan kaynaklandığını ifade etti.
Önceden OpenAI’nın “superalignment team” olarak adlandırdığı bir ünite vardı. Bu ekip, AI’nin uzun vadeli varoluşsal tehditlerini inceleme amacıyla 2023 yılında kurulmuş, 2024 yılında ise dağılmıştı.
Achiam’ın kişisel web sitesi, onu OpenAI’da Görev Eşitliği lideri olarak listelemeye devam ediyor ve “insanlığın uzun vadeli geleceğinin iyi olması” ile ilgilendiğini ifade ediyor. LinkedIn profili, onun Eylül 2024’ten beri Görev Eşitliği Lideri olarak görev yaptığını gösteriyor.
