OpenAI, 18 Aralık’ta yönetim kuruluna daha fazla yetki vereceğini duyurdu. Artık yönetim kurulu, yürütme komitesi güvenli bulsa bile, güvenlik nedenlerini öne sürerek bir yapay zeka (AI) modelinin yayınlanmasını erteleme olanağına sahip olacak.
OpenAI uyarı kartını oynamayı tercih ediyor
Bir blog yazısında OpenAI, yeni modellerini yayınlamadan önce yapay zeka risklerini değerlendirme sürecine geri döndü. Massachusetts Teknoloji Enstitüsü’nde (MIT) profesör ve MIT’nin Konuşlandırılabilir Makine Öğrenimi Merkezi başkanı Aleksander Madry liderliğindeki Hazırlık ekibi, şirket tarafından geliştirilen sistemlerin çeşitli durumlarda nasıl performans gösterdiklerini öğrenmek için sürekli olarak değerlendiriyor.
OpenAI risklerin olup olmadığını bulmaya çalışıyor ” yüz milyarlarca dolarlık ekonomik zarara yol açabilecek veya birçok insanın ciddi şekilde zarar görmesine veya ölümüne neden olabilecek “. Daha sonra bir rapor yazılır ve eş zamanlı olarak firmanın yönetimine ve yönetim kuruluna sunulur. “ Yönetim karar verici olmasına rağmen, yönetim kurulunun kararları bozma hakkı vardır. », Basın bülteninde firmayı belirtir. Gelecekte, tüm paydaşların aynı fikirde olmaması durumunda aracın piyasaya sürülmesi gecikebilir.
OpenAI’nin bu gri alanın etrafındaki “i”leri işaretlemek istemesinin nedeni, Kasım ayında birkaç yönetim kurulu üyesi ile mevcut CEO’su Sam Altman arasındaki anlaşmazlıkların ikincisinin görevden alınmasına yol açmasıydı. Birkaç OpenAI araştırmacısı, önceden kurulu, yapay zekada insanlığı tehdit edebilecek önemli bir keşfe karşı uyaran bir mektup yazmıştı.
Sam Altman’ın gelişmiş yapay zeka araçlarını hızlı bir şekilde ticarileştirme arzusunu gizlemeyen OpenAI yönetim kurulu, kurucu ortağından ayrılarak liderliği ele geçirmeyi tercih etti. 96 saatlik iniş çıkışların ardından Sam Altman, meslektaşlarının büyük çoğunluğunun desteğiyle nihayet görevine geri döndü.
Bu olay, startup’ın ana hissedarı Microsoft’tan birkaç üyenin gelişiyle OpenAI’nin yönetim kurulunu yeniden şekillendirmesine olanak tanıyacak. Salesforce’un eski eş CEO’su Bret Taylor ve eski ABD Hazine Bakanı Larry Summers yönetim kurulunu tamamladı. Bu son iki stratejik atama, şirketin dünya çapındaki hükümetler ve siyasi kurumlar, işletmeler ve akademi ile ilişkilerini geliştirmesine olanak tanıyacak.