OpenAI, yönetim kuruluna Zico Kolter’i atadı.
Carnegie Mellon’daki makine öğrenimi bölümünün profesörü ve yöneticisi olan Kolter, araştırmalarını ağırlıklı olarak AI güvenliğine odaklıyor. Bu onu “için paha biçilmez bir teknik yönetmen” yapıyor [OpenAI’s] OpenAI, resmi sitesinde yayınladığı bir gönderide, “yönetim” yazıyor blog.
AI güvenliği şirkette büyük bir sorun olmuştur. Kolter’in atanması, kurucu ortak Ilya Sutskever dahil olmak üzere güvenliğe odaklanan birkaç önemli OpenAI yöneticisi ve çalışanının şirketten ayrılmasından birkaç ay sonra geldi. Bu istifaların birçoğu, “süper zeki” AI sistemlerini yönetme yollarına odaklanan Sutskever’in eski “Superalignment” ekibinden geldi, ancak bir kaynağın söylediğine göre başlangıçta vaat edilen bilgi işlem kaynaklarına erişimleri reddedildi.
Kolter ayrıca, yöneticiler Bret Taylor, Adam D’Angelo, Paul Nakasone, Nicole Seligman, CEO Sam Altman ve OpenAI teknik uzmanlarıyla birlikte OpenAI yönetim kurulunun Güvenlik ve Emniyet Komitesine katılacak. Komite, tüm OpenAI projeleri için güvenlik ve emniyet kararları konusunda önerilerde bulunmaktan sorumludur; ancak Mayıs ayındaki bir yazıda belirttiğimiz gibi, çoğunlukla içeriden kişilerden oluşuyor ve bu da uzmanlar arasında etkinliği konusunda sorulara yol açtı.
OpenAI Yönetim Kurulu Başkanı Taylor yaptığı açıklamada, “Zico, yapay zekanın güvenliği ve sağlamlığı konusunda derin teknik anlayış ve bakış açısı sağlayarak genel yapay zekanın tüm insanlığa fayda sağlamasını garantilememize yardımcı olacak.” dedi.
Daha önce C3.ai’de baş veri bilimcisi olarak görev yapan Kolter, 2010 yılında Stanford Üniversitesi’nde bilgisayar bilimi alanında doktorasını tamamladı ve ardından 2010-2012 yılları arasında MIT’de doktora sonrası araştırma yaptı. Araştırmaları, otomatik optimizasyon teknikleriyle mevcut yapay zeka güvenlik önlemlerini aşma potansiyelini göstermeyi içeriyor.
Sektör iş birliklerine yabancı olmayan Kolter, şu anda Bosch’ta “baş uzman” ve yapay zeka girişimi Gray Swan’da baş teknik danışman olarak görev yapıyor.