OpenAI, aralarında OpenAI kurucu ortağı ve baş bilim adamı Ilya Sutskever’in de bulunduğu grubun iki liderinin ayrılmasının ardından, gelecekteki olası ultra yetenekli yapay zeka sistemlerinin güvenliğini sağlamaya odaklanan bir ekibi etkili bir şekilde feshetti.
Şirket, Bloomberg News’e yaptığı açıklamada, süper hizalama ekibini bağımsız bir varlık olarak sürdürmek yerine, OpenAI’nin şirketin güvenlik hedeflerine ulaşmasına yardımcı olmak için artık grubu araştırma çalışmalarına daha derinlemesine entegre ettiğini söyledi. Ekip, bir yıldan kısa bir süre önce Sutskever ve bir diğer OpenAI emektarı Jan Leike’nin liderliğinde kuruldu.
Ekibi yeniden düşünme kararı, yakın zamanda OpenAI’den ayrılmanın, şirketin AI ürünlerini geliştirirken hız ile güvenliği dengeleme yaklaşımı hakkındaki soruları yeniden gündeme getirmesiyle geldi. Saygın bir araştırmacı olan Sutskever Salı günü, yapay zekanın ne kadar hızlı geliştirileceği konusunda İcra Kurulu Başkanı Sam Altman ile daha önce tartıştıktan sonra OpenAI’den ayrıldığını duyurdu.
Leike, kısa bir süre sonra sosyal medyada kısa bir paylaşımla ayrılışını açıkladı. “Ben istifa ettim” dedi. Durumu bilen ve özel görüşmeleri görüşmek üzere isminin açıklanmasını istemeyen bir kişiye göre, Leike için Sutskever’in ayrılması şirketle yaşanan anlaşmazlıkların ardından bardağı taşıran son damla oldu.
Cuma günü yaptığı açıklamada Leike, süper hizalama ekibinin kaynaklar için mücadele ettiğini söyledi. Leike, X’e şunları yazdı: “Son birkaç aydır ekibim rüzgara karşı yelken açtı. Bazen hesaplama konusunda zorlanıyorduk ve bu önemli araştırmayı tamamlamak giderek zorlaşıyordu.”
Saatler sonra Altman, Leike’nin gönderisine yanıt verdi. Altman, X hakkında şunları yazdı: “Haklı, yapacak daha çok işimiz var.” “Bunu yapmaya kararlıyız.”
Süper hizalama ekibinin diğer üyeleri de geçtiğimiz aylarda şirketten ayrıldı. Leopold Aschenbrenner ve Pavel Izmailov, OpenAI tarafından bırakıldı. Bilgi daha önce ayrılışlarını bildirmişti. Konuya yakın bir kaynağa göre İzmailov, ayrılmadan önce takımdan uzaklaştırılmıştı. Aschenbrenner ve Izmailov yorum taleplerine yanıt vermedi.
Şirket, büyük dil modelleri üzerine araştırma merkezleri bulunan girişimin kurucu ortağı John Schulman’ın, OpenAI’nin ileriye yönelik uyumlaştırma çalışmalarının bilimsel lideri olacağını söyledi. Ayrı bir gelişmede OpenAI, bir blog yazısında Sutskever’in baş bilim insanı rolünü devralması için Araştırma Direktörü Jakub Pachocki’yi atadığını söyledi.
Altman Salı günü Pachocki’nin atanmasıyla ilgili yaptığı açıklamada, “AGI’nin herkese fayda sağlamasını sağlama misyonumuza doğru hızlı ve güvenli bir ilerleme kaydetmemize öncülük edeceğinden eminim” dedi. AGI veya yapay genel zeka, çoğu görevde insanlardan daha iyi veya daha iyi performans gösterebilen yapay zekayı ifade eder. AGI henüz mevcut değil ancak onu yaratmak şirketin misyonunun bir parçası.
OpenAI ayrıca şirket genelindeki ekiplerde yapay zeka güvenliğiyle ilgili çalışmalara katılan çalışanların yanı sıra güvenliğe odaklanan bireysel ekiplere de sahiptir. Bir hazırlık ekibi olan One, geçen Ekim ayında kuruldu ve yapay zeka sistemlerinin potansiyel “felaket risklerini” analiz etmeye ve ortadan kaldırmaya çalışıyor.
Süper hizalama ekibinin amacı en uzun vadeli tehditleri savuşturmaktı. OpenAI geçen Temmuz ayında süper hizalama ekibinin kurulduğunu duyurarak, şirketin uzun süredir teknolojik bir hedef olarak belirttiği, gelecekte insanlardan daha akıllı olan yapay zeka yazılımlarının güvenliğinin nasıl kontrol edileceğine ve güvence altına alınacağına odaklanacağını söyledi. Duyuruda OpenAI, o zamanki bilgi işlem gücünün %20’sini ekibin çalışmalarına ayıracağını söyledi.
Kasım ayında Sutskever, Altman’ı kovmak için harekete geçen birkaç OpenAI yönetim kurulu üyesinden biriydi ve bu karar, şirkette beş gün süren bir kasırgaya yol açtı. OpenAI Başkanı Greg Brockman protesto amacıyla istifa etti, yatırımcılar isyan etti ve birkaç gün içinde girişimin yaklaşık 770 çalışanının neredeyse tamamı, Altman geri getirilmediği takdirde işten ayrılma tehdidinde bulunan bir mektup imzaladı. Dikkate değer bir tersine dönüşle Sutskever de mektubu imzaladı ve Altman’ın devrilmesindeki rolünden dolayı pişman olduğunu söyledi. Kısa süre sonra Altman görevine iade edildi.
Altman’ın çıkışını ve dönüşünü takip eden aylarda Sutskever kamuoyunun gözünden büyük ölçüde kayboldu ve bu durum onun şirketteki rolünün devamı konusunda spekülasyonlara yol açtı. Konuya aşina bir kişiye göre Sutskever, OpenAI’nin San Francisco ofisinde çalışmayı da bıraktı.
Leike açıklamasında, ayrılışının OpenAI ile şirketin “temel öncelikleri” konusunda yaşanan bir dizi anlaşmazlığın ardından geldiğini ve bu önceliklerin insanlardan daha yetenekli olabilecek yapay zekanın yaratılmasıyla ilgili güvenlik önlemlerine yeterince odaklandığını düşünmediğini söyledi. .
Bu hafta başında ayrılışını duyuran bir gönderide Sutskever, OpenAI’nin Altman da dahil olmak üzere mevcut liderliği altında “hem güvenli hem de faydalı” AGI geliştireceğinden “emin” olduğunu söyledi.
© 2024 Bloomberg LP
(Bu hikaye NDTV personeli tarafından düzenlenmemiştir ve ortak yayından otomatik olarak oluşturulmuştur.)