Geçen hafta OpenAI için nefes kesiciydi. Ve artık, görevden alınan kurucu ortak ve CEO Sam Altman’ın şirketin dizginlerini devralması için bir anlaşmaya varıldığı kesin görünüyor.
Bu hareket, OpenAI’nin CEO’sunu kaybettiği, Microsoft’a katıldığını gördüğü, ilk geçici CEO’sunu ikinci bir geçici CEO ile değiştirdiği ve bir personel isyanıyla karşı karşıya kaldığı birkaç dönüm noktasının ardından geldi.
Şu anda Altman’ın yönetim kurulunda yer alıp almayacağını kimse bilmiyor. Daha önce sahip olmadığı bir koltuk. dedi ki bir röportajda Haziran 2023’te Bloomberg’e yapay zekaya güven konusunda: “Tek bir kişiye güvenmemelisin… Yönetim kurulu beni kovabilir. Bunun önemli olduğunu düşünüyorum.”
Ayrıca OpenAI kurucu ortağı ve baş bilim insanı Ilya Sutskever’in geri dönüp dönmeyeceği henüz bilinmiyor. Bay Sutskever, meslektaşı Helen Toner ile birlikte önceki yönetim kurulunda yer alıyordu ve her ikisinin de Bay Altman’ın görevden alınması kararında rol oynadığından şüpheleniliyordu. Ancak Sutskever daha sonra şunu ifade etti: bu şekilde davrandığı için duyduğu üzüntüyü dile getirdi.
Olay boyunca sessiz kalan Helen Toner nihayet tarihinde ilan edildi Altman’ın geri döneceği ortaya çıktıktan sonra: “Ve şimdi hepimiz uyuyoruz.”
Helen Toner vs. Sam Altman
Helen Toner, Altman’ın OpenAI’yi eleştirdiğini söylediği bir araştırma raporunun ortak yazarlığını yapmıştı. Raporda, şirketin yapay zeka geliştirmelerinin güvenliğini sağlamaya yönelik çabalarının, rakibi Anthropic’e göre daha az kapsamlı olduğu vurgulandı. adlı bir makaleye göre New York Timesbu rapor Sam Altman’ı Helen Toner’in yönetim kurulundan çıkarılması için kampanya yürütecek kadar kızdırdı.
Altman’ın kovulduğunu duyuran ilk açıklamasında, OpenAI yönetim kurulu şunu açıkladı: artık şirketi yönetme becerisine güveninin kalmadığını söyledi.
Kurul ayrıca, 2015 yılında kar amacı gütmeyen bir kuruluş olarak kurulan OpenAI’nin, yapay genel zekanın (AGI) tüm insanlığa fayda sağlamasını sağlama yönündeki “misyonumuzu ilerletmek için yapılandırıldığını” da kaydetti. Açıklamada, “Yönetim Kurulu bu misyona hizmet etme konusunda tamamen kararlıdır… ilerlemek için yeni bir liderliğin gerekli olduğuna inanıyoruz” denildi.
Yapay zekanın geleceği çok küçük bir grup aktörün elinde
Şirket, kar amacı gütmeyen kuruluşun yönetim ve gözetimini “koruyarak” misyonunu sürdürmek için sermaye artırmasına izin verecek şekilde 2019 yılında yeniden yapılandırıldı. “Şirket olağanüstü bir büyüme yaşarken, Yönetim Kurulunun temel yönetişim sorumluluğu OpenAI’nin misyonunu ilerletmek ve tüzüğündeki ilkeleri korumak olmaya devam ediyor” dedi.
Bay Altman’ın yapay zeka güvenliği yerine genişlemeye öncelik verdiğinden endişe duyduğu söylenen Toner ve Sutskever’in de aralarında bulunduğu yönetim kurulu, Bay Altman’ı kovma kararını motive eden nedenler konusunda büyük ölçüde sessiz kalmayı tercih ettiğinden, sosyal medyada spekülasyonlar çoğaldı.
Bay Altman ile yönetim kurulu arasındaki gerginlikler arttıkça çoğu gözlemci, tartışmanın büyük olasılıkla yapay zeka güvenliği ile kurumsal kâr arasında olduğunu belirtti. Ve sorunun özü de burada yatıyor. Bu hala varsayım ve spekülasyondan ibaret çünkü OpenAI yönetim kurulunun gerçekte neyle ilgili endişeleri olduğuna dair yeterli bilgi (eğer varsa) yok.
Bay Altman hangi gerçekleri atladı veya yalan söyledi? OpenAI araştırma ve geliştirme artık AGI’ye (yapay genel zeka) yakın mı? Kurul “tüm insanlığın” buna hazır olduğundan emin değil mi? Kamuoyunun ve devletlerin de endişelenmesi gerekir mi?
Geçtiğimiz hafta daha da netleşen bir şey varsa o da yapay zekanın geleceğinin büyük ölçüde çok küçük bir grup piyasa oyuncusunun elinde olduğudur.
Big Tech, yapay zekanın toplum üzerindeki etkisini belirleyecek kaynaklara sahip
Büyük Teknoloji oyuncuları, yapay zekanın toplum üzerindeki etkisini belirleyecek kaynaklara sahiptir. Ancak bu teknolojik seçkinler nüfusun yalnızca küçük bir bölümünü temsil ediyor.
Birkaç gün içinde, Altman’ın görevden alınmasını, Microsoft’ta işe alınmasını (kısa süreli de olsa), neredeyse tüm OpenAI iş gücünün pazardaki başka bir büyük oyuncuya potansiyel transferini ve Altman’ın olası yeniden entegrasyonunu manevra yapmayı başardı.
Ve tüm bunları neden kovulduğunu açıklamadan, doğrulamak ya da yalanlamak için yapmadılar. Yapay Zeka güvenliğinin OpenAI kârına göre önceliklendirilmesine ilişkin endişeler.
OpenAI’nin yeni yönetim kurulunun, Altman’ın görevden alınmasının ardındaki nedenlere ilişkin soruşturma başlatacağı da belirtildi. Ancak bu bir iç soruşturma olacaktır.
Yapay zeka şeffaflığının vaaz ettiği şeyleri uygulayın
Şeffaflık, herhangi bir yapay zekanın (üretken, AGI veya başka türlü) geliştirilmesi ve benimsenmesi için esastır. Şeffaflık, çoğu insanın yapay zekanın insanların kabulü için inşa edilmesi gerektiği konusunda hemfikir olduğu güvenin temelidir.
Büyük teknoloji şirketleri ayrıca sorumlu ve etik yapay zekanın uygulanmasında şeffaflığın önemini vurguluyor.
Hiçbiri olmadığında ise şeffaflık düzenlemeye dayanmalıdır. Yapay zekada pazardaki yeniliği engellemeyi amaçlamayan, ancak bu yeniliğin nasıl geliştirildiği ve ilerletildiği konusunda şeffaflığın gerekliliğine odaklanan mevzuata ihtiyacımız var.
OpenAI vakası, hükümetlerin yapay zeka gelişiminin nasıl ilerlemesi gerektiğini öğrenmesine olanak sağlamalıdır. Ayrıca, gelişimi kar amacı gütmeyen bir iş çerçevesiyle bağlantılı olsa bile, yapay zekayı yönetmenin karmaşıklığına da tanık olduk.
Kilit bir çalışanın yapay zekanın riskleri hakkında özgürce konuşabilmek için istifa etmek zorunda kalması, piyasa katılımcılarının, bunu taahhüt etmiş olsalar bile, gelişimlerinde tamamen şeffaf olma ihtimalinin düşük olduğunu açıkça ortaya koyuyor.
Bu, bunu yapmalarını sağlamak için güçlü bir yönetime duyulan ihtiyacı ve bu tür bir yönetimi hayata geçirmenin aciliyetini vurgulamaktadır.
Milletvekillerinin hızlı hareket etmesi gerekecek. Orada Yapay Zeka Güvenliğine İlişkin Bletchley AçıklamasıBirleşik Krallık himayesinde geliştirilen bu teknoloji ileriye doğru atılmış büyük bir adımı temsil ediyor. Gerçekten de aralarında Çin, ABD, Singapur ve Avrupa Birliği’nin de bulunduğu 28 ülke, “avangard” yapay zekayla bağlantılı potansiyel risklerin belirlenmesi ve yönetilmesi konusunda işbirliği yapmayı kabul etti. Çok taraflı anlaşma, ülkelerin yapay zekanın küresel topluluğun yararına “güvenli ve sorumlu” bir şekilde geliştirilmesini ve kullanılmasını sağlamaya yönelik “acil ihtiyacın” farkına vardığını vurguluyor.
Birleşmiş Milletler ayrıca potansiyel riskleri azaltmak için uluslararası yapay zeka yönetimini gözden geçirecek ve “küresel olarak kapsayıcı” bir yaklaşım taahhüt edecek bir danışma ekibi kurmayı planlıyor.
Umarım bu kuruluşlardaki ve hükümetlerdeki insanlar OpenAI davasıyla ilgili not alıyorlardır. Aslında tartışma artık sadece hangi ülkenin yapay zeka yarışına hakim olacağı değil, aynı zamanda büyük teknoloji şirketlerinin gerekli önlemleri alıp almayacağıyla da ilgili.
Kaynak : “ZDNet.com”