Bu bir yatırım tavsiyesi değildir. Yazarın bahsi geçen hisse senetlerinin hiçbirinde pozisyonu bulunmamaktadır. Wccftech.com’un bir bilgilendirme ve etik politikası vardır.
Model yanıtlarını değerlerle uyumlu olacak şekilde uyarlamaktan sorumlu olan OpenAI’nin uyum sorumlusu John Schulman, Amazon destekli Anthropic ile çalışmak üzere şirketten ayrıldı. Anthropic ve OpenAI’nin ortak bir geçmişi var ve ilki, kendi şirketini kurmaya karar veren ikincisinden eski yöneticileri anlıyor. Schulman, X hakkındaki kararını açıkladı ve OpenAI şefi Sam Altman ve şirkette birlikte çalışarak geçirdikleri zamanı takdir eden diğer kişilerden gelen yanıtlarla karşılandı.
Bir OpenAI Güvenlik Lideri Daha Amazon’un Antropik Programı İçin Firmadan Ayrıldı
Schulman’ın X gönderisi, The Information’ın OpenAI başkanı Greg Brockman’ın uzun süreli izin aldığını ve ürün müdürü Peter Deng’in de şirketten ayrıldığını iddia eden bir raporun hemen ardından geldi. OpenAI’de model hizalamasını denetlemekten sorumlu olan Schulman, artık Amazon destekli Anthropic’te çalışacak. Anthropic, eski OpenAI üyeleri tarafından kuruldu ve Schulman’ın ayrılması, OpenAI’nin kurucu üyelerinden çok azının artık şirkette kaldığı anlamına geliyor; Brockman ve Altman bunlardan ikisi.
OpenAI’nin uyum sorumlusu olarak Schulman, firmanın ChatGPT gibi ürünlerinin önceden tanımlanmış bir dizi değerle uyumlu çıktılar üretmesini sağlamaktan sorumluydu. Bazı örnekler arasında, yapay zeka modelleri tarafından oluşturulan tüm yanıtların insan kullanımı için güvenli olmasını sağlamak amacıyla yanıtların yaygın olarak kabul edilen inançlara göre uyarlanması ve zararlı çıktıların kısıtlanması yer alıyor.
Schulman yaptığı açıklamada OpenAI’den ayrıldığını paylaşıyor “derinleştirmek“Yapay zeka uyumuna odaklanması ve”uygulamalı teknik çalışmalara geri dönün.” Kararın OpenAI’de uyum konusuna odaklanma eksikliğinden kaynaklanmadığını, aksine “kişisel olan“
Ayrılmasının ardından Altman ve Brockman’la birlikte şu anda firmada çalışan üçüncü OpenAI kurucusu, şirketin dil ve kod oluşturma başkanı Wojciech Zaremba oldu.
Schulman’ın duyurusuna yanıt veren OpenAI CEO’su Altman, Schulman’a şirkette yaptığı çalışmalardan dolayı teşekkür etti. Altman, Schulman’la ilk görüşmesinin ayrıntılarını da paylaşarak, Kaliforniya Üniversitesi Berkley’deki bir kafede tanıştıklarını ve burada yapay genel zeka hakkında konuştuklarını anlattı.
Dar zeka olan ChatGPT’nin aksine, yapay genel zeka veya AGI, bir insanın bilişsel yeteneklerini taklit eden çok yönlü çıktılar sunabilen yazılımlar yaratmayı amaçlayan tüm AI firmalarının nihai hedefidir.
Schulman’ın ayrılışı, Mayıs ayında AI güvenlik araştırmacısı Jan Leike’nin ayrılışının ardından geldi; Leike, firmanın bir uyum ekibini feshetmesinin ardından OpenAI’den ayrıldı ve uyum çabalarına liderlik etmek için Amazon destekli Anthropic’e katıldı. Leiki ayrıldıktan sonra Schulman, OpenAI’nin ‘eğitim sonrası’ olarak adlandırdığı işi devraldı. Gönderisinde eğitim sonrası vurgu yapıldı “emin ellerde ve inanılmaz yeteneklerden oluşan derin bir kadroya sahip“ve bir”umut verici projelerle bir araya geliyoruz“
Bugün aşağıdaki notu OpenAI meslektaşlarımla paylaştım:
OpenAI’den ayrılmak gibi zor bir karar verdim. Bu seçim, yapay zeka uyumuna odaklanmamı derinleştirme ve uygulamalı teknik çalışmalara dönebileceğim kariyerimde yeni bir sayfa açma arzumdan kaynaklanıyor. Karar verdim…
— John Schulman (@johnschulman2) 6 Ağustos 2024
