Bu ayın başlarında “güvenlik kaygıları” nedeniyle istifa eden önemli bir OpenAI araştırmacısı Jan Leike, Leike’nin açıklamasına göre “ölçeklenebilir gözetim, zayıftan güçlüye genelleme ve otomatik hizalama araştırması üzerinde çalışmak” üzere rakip Anthropic’e katıldı. postalamak X’te.
Anthropic kendisini ihtiyatlı ilerlemeye adanmış kamu yararına çalışan bir şirket olan OpenAI’nin antitezi olarak konumlandırdı. Ayrılan eski OpenAI çalışanları tarafından kuruldu. göre Finans ZamanlarıÇünkü onlar OpenAI’nin misyonundan saptığına inanıyordu Daha güvenli, daha etik yapay zeka geliştirmek ve 1 milyar dolarlık Microsoft anlaşmasından sonra ticari çıkarlara fazla odaklanmak. Yapay zeka dizisini takip edenler için Leike’nin Anthropic’e katılması sürpriz değil.
“YGZ’nin etkileri konusunda inanılmaz derecede ciddileşmek için çok geç kaldık. Onlar için elimizden geldiğince hazırlanmaya öncelik vermeliyiz,” dedi Leike birkaç hafta önce istifasıyla ilgili takip gönderilerinde. “Ancak o zaman YGZ’nin tüm insanlığa fayda sağlamasını sağlayabiliriz.”
Leike daha önce OpenAI’nin “Superalignment” ekibinde çalışıyordu; bu ekip, Anthropic’teki rolüyle uyumlu görünüyor ve akıllı sistemlerin insani değerlere uygun şekilde hareket edecek şekilde tasarlanmasını sağlıyor. Leike, istifasını açıkladıktan sonraki başlığında OpenAI’yi başarıyı garantilemek için yeterli bilgi işlem kaynağı sağlamadığı için eleştirdi.
Anthropic, kendi adına, kamuoyunun girdilerini toplayarak ve Birleşmiş Milletler İnsan Hakları Evrensel Beyannamesi gibi kaynaklardan kavramları entegre ederek etik ilkeleri bir yapay zeka modelinin eğitimine dahil eden “anayasal yapay zeka”yı kullanır. Daha önce bildirmiştim.
OpenAI’den bir diğer dikkat çekici ayrılış ise bu ayın başında ayrılan ve kurucu ortağı Ilya Sutskever oldu. bulunmadığı bildirildi Kasım ayında CEO Sam Altman’a karşı başarısız bir darbe girişimine öncülük ettiğinden beri ofisten çıkarıldı. Sutskever istifa etmiş ve bir sonraki hamlesini henüz belirtmemiş olsa da değerleri Anthropic’inkilerle örtüşüyor ve bu da burayı Leike ile birlikte kendisi için makul bir hedef haline getiriyor.