Elon Musk’ın OpenAI’yi dağıtma çabası, kâr amacı gütmeyen organizasyonun yapay genel zeka ile insanlığa fayda sağlama misyonu üzerinde kurulu olan kâr amacı güden yan kuruluşunun etkisine bağlı olabilir.
Perşembe günü Oakland’daki bir federal mahkeme, eski bir çalışan ve yönetim kurulu üyesinin, şirketin yapay zeka ürünlerini piyasaya sürme çabalarının AI güvenliğine olan bağlılığı zayıflattığını ifade etti.
Rosie Campbell, 2021 yılında şirketin AGI hazır olma ekibine katıldı ve ekibi dağıtıldıktan sonra 2024’te OpenAI’den ayrıldı. Aynı dönemde başka bir güvenlik odaklı ekip olan Süper Uyum Ekibi de kapatıldı.
“Katıldığımda, çok araştırma odaklıydı ve insanların AGI ve güvenlik sorunları hakkında konuşması yaygındı,” diye ifade etti. “Zamanla, daha çok ürün odaklı bir organizasyon haline geldi.”
Cross-examination (karşı sorgulama) sırasında, Campbell laboratuvarın AGI inşa etme hedefine ulaşması için önemli bir finansmanın muhtemel olarak gerekli olduğunu kabul etti ama doğru güvenlik önlemleri olmadan süper zeki bir bilgisayar modelinin yaratılmasının katıldığı organizasyonun misyonuyla uyuşmayacağını belirtti.
Campbell, Microsoft’un, şirketin GPT-4 modelinin bir versiyonunu Hindistan’da Bing arama motoru üzerinden değerlendirilmeden önce devreye aldığını işaret ederek bir olayı örnek gösterdi. Modelin kendisinin büyük bir risk teşkil etmediğini söyledi ama şirketin “teknoloji daha güçlü hale geldikçe güçlü emsal oluşturmaları gerektiğini” vurguladı. “İyi güvenlik süreçlerinin belirlendiğini, bunların güvenilir bir şekilde takip edildiğini bilmek istiyoruz.”
OpenAI’nin avukatları, Campbell’in “spekülatif görüşü”yle OpenAI’nin güvenlik yaklaşımının, Musk’ın kurduğu ve bu yıl SpaceX tarafından satın alınan xAI’den daha üstün olduğunu kabul etmesini sağladı.
OpenAI, modellerinin değerlendirmelerini yayımlamakta ve bir güvenlik çerçevesini kamuya paylaşmakta, ancak şirket AGI uyumuna yönelik mevcut yaklaşımı hakkında yorum yapmayı reddetti. Şu anda Hazırlık bölümünün başında bulunan Dylan Scandinaro, Şubat ayında Anthropic’ten işe alındı. Altman, bu hamlenin kendisini “daha iyi uyutacağını” belirtti.
Ancak, Hindistan’daki GPT-4’ün devreye alınması, OpenAI’nin kâr amacı gütmeyen yönetim kurulunun 2023’te CEO Sam Altman’ı geçici olarak işten çıkarmasına neden olan kırmızı bayraklardan biriydi. Bu olay, o dönemdeki baş bilim insanı Ilya Sutskever ve CTO Mira Murati’nin Altman’ın çatışma karşıtı yönetim tarzı hakkında şikayetleri sonrasında gerçekleşti. O dönemde yönetim kurulunun bir üyesi olan Tasha McCauley, Altman’ın kurul ile işleyişinin gerekliliklerini yerine yeterince getirmediği yönündeki endişeleri ifade etti.
McCauley ayrıca, Altman’ın kurulu yanıltma alışkanlığını belirtti. Özellikle, Altman’ın başka bir yönetim kurulu üyesine, Helen Toner’ı işten çıkarma niyetini yanlış bildirdiği ortaya çıktı. Toner, OpenAI’nin güvenlik politikasını eleştiren bir beyaz kağıt yayımlamıştı. Altman ayrıca, ChatGPT’nin halka açık olarak başlatılmasına ilişkin kararın kurula bildirilmediğini ve olası çıkar çatışmalarını yeterince açık etmediğini belirtti.
“Biz kâr amacı gütmeyen bir yönetim kuruluyuz ve görevimiz altımızdaki kâr amacı güden yapıyı denetlemekti,” dedi McCauley mahkemede. “Bunu yapmanın ana yolu sorgulanmaya açıldı. Bize iletilen bilgilerin, bilgilendirici kararlar almamıza yardımcı olup olmadığını yüksek derecede güvenle değerlendiremiyorduk.”
Ancak Altman’ı görevden alma kararı, aynı zamanda şirkete çalışanlarına bir teklif sunulmasıyla gerçekleşti. McCauley, OpenAI personelinin Altman ile yan yana durmaya başladığı dönem ve Microsoft’un durumu normale döndürme çabasıyla yönetim kurulunun nihayetinde yol değiştirdiğini açıkladı ve Altman’a karşı olan üyelerin istifa ettiğini belirtti.
Kâr amacı gütmeyen yönetim kurulunun kâr amacı güden organizasyonu etkilemedeki görünür başarısızlığı, Musk’ın, OpenAI’nin araştırma organizasyonundan dünyanın en büyük özel şirketlerinden birine dönüşümünün, organizasyonun kurucuları arasındaki örtülü anlaşmayı ihlal ettiğini öne sürdüğü davayı doğrudan etkiliyor.
Columbia Hukuk Fakültesi eski Dekanı David Schizer, Musk’ın ekibi tarafından uzman tanık olarak ücretlendirildi ve McCauley’nin endişelerini tekrar dile getirdi.
“OpenAI, misyonunun önemli bir parçasının güvenlik olduğunu vurguladı ve karların üzerinde güvenliği önceliklendirecekler,” dedi Schizer. “Bu, güvenlik incelemesine tabi tutulması gerekenlerin her zaman göz önünde bulundurulması gerektiği anlamına geliyor. Önemli olan süreç meselesidir.”
Yapay zekanın kâr amacı güden şirketler içinde derin bir şekilde yerleştiği düşünüldüğünde, bu mesele tek bir laboratuvarın ötesine geçiyor. McCauley, OpenAI’deki iç yönetim başarısızlıklarının, ilerici yapay zeka konusunda daha güçlü devlet düzenlemelerini benimseme nedeni olması gerektiğini belirtti: “[Eğer] her şey bir CEO’nun kararları ile sınırlı olursa ve kamu yararı tehlike altındaysa, bu çok optimal değildir.”
