Cosmos EnstitüsüKurucu ortakları arasında Anthropic’in kurucu ortağı Jack Clark ve eski Savunma Bakanlığı teknoloji uzmanı Brendan McCord’un da bulunduğu kar amacı gütmeyen bir kuruluş olan , kuruluşun kendi ifadesiyle “Yapay Zeka çağımızın keşfedilmemiş topraklarında yol alabilecek derin felsefi düşünceye sahip yeni nesil teknoloji uzmanları ve girişimciler yetiştirmek” amacıyla bir girişim programı ve araştırma girişimleri duyurdu.
Birinde blog yazısıMcCord, Cosmos’un başkanı, Enstitü’nün Oxford Üniversitesi’nde İnsan Merkezli AI Laboratuvarı veya kısaca “HAI Laboratuvarı” adlı bir AI laboratuvarı kuracağını söyledi. Bu laboratuvar, Enstitü’nün kurucu üyelerinden biri olan Oxford filozofu Philipp Koralus tarafından yönetilecek ve “insan gelişiminin felsefi prensiplerini açık kaynaklı yazılım ve AI sistemlerine dönüştürmeyi” amaçlayacak.
“İnsan gelişiminin felsefi prensiplerini tercüme etmek” tam olarak neyi gerektirir? Belirsiz. Ancak asıl mesele, zararlı kesintileri (örneğin iş kaybına yol açan otomasyon) teşvik etmekten kaçınırken insan onuruna saygı gösteren AI teknolojisinin yaratılmasını teşvik etmektir. Yüksek ve belirsiz bir çıta, elbette — ancak HAI Lab’ın çabalayacağı bir çıta.
Enstitü ayrıca dört kişilik bir grupla başlamak üzere bir burs — Cosmos Bursu — kuruyor. HAI Lab veya diğer ortak kurumlarda “bir dönem ile bir yıl” arasında çalışan burslular, Cosmos akıl hocalarıyla iş birliği yapacak ve “[explore the] McCord, “Yapay zeka uzmanlığı ile derin felsefi anlayışın kesişimi” dedi.
Enstitü’nün planlarında bir yatırım bileşeni var ve bir girişim örgütü biçiminde başlatılıyor: Cosmos Ventures. Eski DeepMind ürün lideri Jason Zhao, eski Stripe kurumsal strateji başkanı Alex Komoroske, Darren Zhu ve Zoe Weinberg liderliğindeki Cosmos Ventures, McCord’un söylediğine göre “teknolojinin felsefesi etrafındaki temel soruları araştıran kışkırtıcı yeni prototipleri, denemeleri ve yaratıcı projeleri” destekleyecek.
McCord, Cosmos Ventures’ı “düşük genel gider” olarak nitelendiriyor ve Institute üyesi Tyler Cowen’ın Emergent Ventures’ına göre modellenmiş. Yatırımlar proje başına 1.000 ila 10.000 dolar arasında değişecek ve yeni veya mevcut olabilen projeler üç ay içinde “önemli bir teslimat” üretmelidir.
McCord, ilk grubun halihazırda finanse edildiğini söyledi.
Cosmos Enstitüsü, AI’nın daha etik, hümanist bir vizyonunu ilerletmeye çalışan ilk kuruluş değil. Gelişmiş AI’nın faydalarını tüm insanlığa ulaştırma misyonuyla kurulan OpenAI, tüm güvenlik ekiplerini dağıttı. Clark’ın kendi Anthropic’i bir zamanlar kendisini daha güvenli, daha etik bir satıcı olarak konumlandırmıştı, ancak son aylar Yapay zeka düzenlemelerine karşı çıktı ve izinsiz olarak agresif bir şekilde veri topladı.
Belki de Cosmos Enstitüsü, McCord’un “ivmecilik” olarak adlandırdığı, geleceğin önceden belirlenmediği ve dolayısıyla insanlığın sahip olacağı şeylerden sorumlu olduğu fikrini benimseyerek daha iyi bir iş çıkarabilir.
McCord, “Özellikle eğitim, tıp, kamusal alan ve diğer hayati alanlarda, rehavet yerine sorgulamayı teşvik eden ve pasif bağımlılık yerine aktif katılımı destekleyen bir AI inşa etmeliyiz,” diye yazıyor. “Gücü merkezden uzaklaştıran ve aşağıdan yukarıya çözümlere olanak tanıyan, bireylerin ve toplulukların daha zengin, daha çeşitli bir toplum yaratmasına olanak tanıyan AI’yı savunuyoruz.”
Bunlar takdire şayan pozisyonlar. Bu muhabirin tek umudu para, nüfuz ve gücün onları terk etme cazibesini karşı konulamaz hale getirmemesi.
