OpenAI CEO’su Sam Altman, şirketin projeleri ve operasyonlarıyla ilgili “kritik” güvenlik kararlarını denetlemek için Mayıs ayında OpenAI tarafından oluşturulan dahili komisyondan ayrılıyor.
Birinde blog yazısı OpenAI bugün, komitenin, Güvenlik ve Emniyet Komitesi’nin, Carnegie Mellon profesörü Zico Kolter, Quora CEO’su Adam D’Angelo, emekli ABD ordusu generali Paul Nakasone ve eski Sony EVP’si Nicole Seligman başkanlığında “bağımsız” bir yönetim kurulu gözetim grubu olacağını söyledi. Hepsi OpenAI’nin yönetim kurulunun mevcut üyeleridir.
OpenAI, gönderisinde komisyonun OpenAI’nin en son AI modeli olan o1’in güvenlik incelemesini gerçekleştirdiğini belirtti — ancak Altman hala başkandı. Şirket, grubun OpenAI güvenlik ve emniyet ekiplerinden düzenli brifingler almaya devam edeceğini ve güvenlik endişeleri giderilene kadar sürümleri erteleme yetkisini elinde tutacağını söyledi.
OpenAI gönderide, “Güvenlik ve Emniyet Komitesi, çalışmalarının bir parçası olarak, mevcut ve gelecekteki modeller için teknik değerlendirmeler ve devam eden sürüm sonrası izleme raporları hakkında düzenli raporlar almaya devam edecek” diye yazdı.[W]”Model lansman süreçlerimizi ve uygulamalarımızı temel alarak, model lansmanları için açıkça tanımlanmış başarı kriterlerine sahip entegre bir güvenlik ve emniyet çerçevesi oluşturuyoruz.”
Altman’ın Güvenlik ve Emniyet Komitesi’nden ayrılması, beş ABD senatörünün görevden alınmasının ardından geldi ortaya çıkan sorular Bu yaz Altman’a hitaben yazılmış bir mektupta OpenAI’nin politikaları hakkında. Bir zamanlar AI’nin uzun vadeli risklerine odaklanan OpenAI personelinin neredeyse yarısı solve eski OpenAI araştırmacıları sanık Altman, OpenAI’nin kurumsal amaçlarını ilerleten politikalar lehine “gerçek” yapay zeka düzenlemesine karşı çıkıyor.
OpenAI, federal lobicilik harcamalarını önemli ölçüde artırarak, geçen yılın tamamı için 260.000 dolara kıyasla 2024’ün ilk altı ayı için 800.000 dolar bütçe ayırdı. Altman ayrıca bu baharın başlarında, ABD İç Güvenlik Bakanlığı’nın Yapay Zeka Emniyet ve Güvenlik Kurulu’na katıldı ve bu kurul, ABD’nin kritik altyapısı boyunca AI’nın geliştirilmesi ve dağıtımı için önerilerde bulunuyor.
Altman’ın görevden alınmasıyla bile, Güvenlik ve Emniyet Komitesi’nin OpenAI’nin ticari yol haritasını ciddi şekilde etkileyecek zor kararlar alacağına dair çok az işaret var. Açıklayıcı bir şekilde, OpenAI söz konusu Mayıs ayında komisyon aracılığıyla çalışmalarına yönelik “geçerli eleştirileri” ele almaya çalışacağını duyurdu – “geçerli eleştiriler” elbette bakanın gözündedir.
The Economist için bir köşe yazısında MayıstaEski OpenAI yönetim kurulu üyeleri Helen Toner ve Tasha McCauley, OpenAI’nin bugün olduğu haliyle kendisini sorumlu tutabileceğine güvenmediklerini söyledi.[B]Deneyimlerimize dayanarak, özyönetimin kâr teşviklerinin baskısına güvenilir bir şekilde dayanamayacağına inanıyoruz” diye yazdılar.
Ve OpenAI’nin kâr teşvikleri artıyor.
Şirketin, OpenAI’yi 150 milyar doların üzerinde değerleyecek bir finansman turunda 6,5+ milyar dolar toplamanın ortasında olduğu söyleniyor. Anlaşmayı sağlamak için OpenAI’nin, yatırımcıların getirilerini kısmen OpenAI’nin kuruluş misyonuyla uyumlu kalmasını sağlamak için sınırlamayı amaçlayan karma kar amacı gütmeyen kurumsal yapısını terk edebileceği bildirildi: “tüm insanlığa fayda sağlayan” yapay genel zeka geliştirmek.