OpenAI bir rapora göre bir sonraki sınır modelini eğittiğini söylüyor Salı günü basın açıklamasıve bunun girişimi genellikle insanlardan daha akıllı olan yapay zeka sistemlerine bir adım daha yaklaştıracağını öngörüyor. Şirket ayrıca, CEO Sam Altman ve diğer OpenAI yönetim kurulu üyelerinin liderliğinde, kritik emniyet ve güvenlik kararlarına rehberlik edecek yeni bir Emniyet ve Güvenlik Komitesi’nin kurulduğunu da duyurdu.

OpenAI bir basın açıklamasında, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duyuyoruz” dedi. Bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz.”

Duyuru, Ilya Sutskever ve Jan Leike liderliğindeki bir grubun OpenAI için araştırma yaptığı çalkantılı bir ayın ardından geldi. Yapay zekanın insanlığın varoluşsal riskleri dağıtıldı. Eski OpenAI yönetim kurulu üyeleri Helen Toner ve Tasha McCauley Pazar günü The Economist’te bu gelişmeleri ve Altman’ın dönüşünün ardından diğerlerini yazdılar:OpenAI deneyi için kötüye işaret özyönetim içinde.” Güvenlikle ilgilenen birçok çalışan da son aylarda şirketten ayrıldı ve bunların çoğu yapay zeka sistemlerinin tehlikelerine daha fazla dikkat edilmesi çağrısında bulundu.

Bu yeni grup, OpenAI’nin bu korkuları giderme girişimi gibi görünüyor ve grubun ilk görevi önümüzdeki 90 gün boyunca OpenAI süreçlerini ve korumalarını değerlendirmek olacak. Ancak Altman’ın bu gruba dahil edilmesinin OpenAI’yi eleştirenleri yatıştırması pek mümkün görünmüyor. Toner ve McCauley, üst düzey liderlerin kendilerine Altman’ın OpenAI’de “zehirli bir yalan kültürü” geliştirdiğini söylediğini yazıyor. Daha geçen hafta, Scarlett Johansson, Altman’ın güvenilirliğini sorgulamış görünüyordu şirket tıpkı ona benzeyen bir ses yarattığından.

Altman, Başkan Bret Taylor ve yönetim kurulu üyeleri Adam D’Angelo ve Nicole Seligman Emniyet ve Güvenlik Komitesine liderlik edecek. Şirketin yeni baş bilim insanı Jakub Pachocki, bölüm başkanları Matt Knight, John Sculman, Lilian Weng ve Aleksander Madry ile birlikte komitede yer alacak. Grup ayrıca dışarıdan uzmanlara danışacak ve daha büyük OpenAI kuruluna güvenlik prosedürleri konusunda tavsiyelerde bulunacak.

Şirket, mayıs ayında da GPT-4 Omni’yi yayınladıYapay zeka modelleriyle insan etkileşiminde yeni bir sınırı sergileyen. Bu model, gerçek zamanlı çok modlu etkileşimleriyle yapay zeka topluluğundaki birçok kişiyi şok etti ve görünen o ki OpenAI, bir sonraki modeli eğitme konusunda şimdiden ilerlemeye devam ediyor. Altman’ın girişimi Google ile rekabet etme baskısıyla karşı karşıya Yapay zeka sohbet robotu ortaklığı kazanın Apple ile büyük ölçüde Haziran ayında tanıtılması bekleniyor WWDC. Ortaklık, teknolojideki en önemli iş anlaşmalarından biri olabilir.

Bununla birlikte, OpenAI’nin yeni güvenlik ekibi büyük ölçüde Altman’ın OpenAI’ye dönüşünden sonra göreve getirilen yönetim kurulu üyelerinden ve son ayrılıklar sonucunda daha fazla yetki verilen yeni bölüm başkanlarından oluşuyor. Yeni güvenlik grubu, OpenAI’yi rahatsız eden güvenlik endişelerini gidermeye yönelik küçük bir adım, ancak içeriden bilgi toplamak bu endişeleri susturmak için yeterli görünmüyor.

OpenAI’nin kurucu ortağı ve baş bilim insanı Ilya Sutskever, Salı günü şirketten ayrıldığını duyurdu. OpenAI, bir basın bülteninde ayrılışı doğruladı. Sutskever’in resmi çıkışı CEO Sam Altman’ı kovmak için diğer yönetim kurulu üyeleriyle birlikte yürütülen çabaya liderlik etmesinden yaklaşık altı ay sonra geldi, ancak bu hareket günler sonra geri tepti.

Sutskever, “Neredeyse on yıl sonra OpenAI’den ayrılma kararı aldım” dedi bir tweet aracılığıyla Salı öğleden sonra. “Bundan sonra gelecek olan şey için heyecanlıyım; benim için kişisel olarak çok anlamlı olan ve ayrıntılarını zamanı gelince paylaşacağım bir proje.”

Altman kısa süre sonra bir tweet’te “Ilya ve OpenAI yollarını ayıracak” dedi. “Bu benim için çok üzücü; İlya kesinlikle neslimizin en büyük beyinlerinden biri, alanımızın yol gösterici ışığı ve sevgili bir dostumuzdur.”

Altman, Sutskever’in ekibinde kıdemli araştırmacı olan Jakub Pachocki’nin OpenAI’nin Baş Bilim Adamı olarak onun yerine geçeceğini söyledi. Sutskever, ilerlemesi açısından kendisi için çok “anlamlı” olan, açıklanmayan bir projeye dikkat çekiyor. Şu anda bu projenin ne olduğu belli değil.

Gelecekteki yapay zekayı korumak için Sutskever ile birlikte çalışan bir diğer OpenAI yöneticisi Jan Leike de Salı günü istifa etti. Bilgi. Leike ve Sutskever OpenAI’ye liderlik etti süper hizalama ekibiŞirketin süper güçlü yapay zekasının insanlara karşı dönmemesini sağlamak gibi görkemli bir görevle görevlendirildi.

Son altı aydır Sutskever’in durumu OpenAI’de belirsizliğini koruyor. Altman, 2023 yılının Kasım ayı sonlarında şirkete geri döndüğünde Sutskever’de şunları söyledi: “Çalışma ilişkimizi sürdürmeyi umuyoruz ve OpenAI’deki çalışmalarına nasıl devam edebileceğini tartışıyoruz.” Sutskever, OpenAI’nin o dönemde belirsizlik içinde kalan tek üyesiydi; ne kovuldu ne de yeniden işe alındı.

O zamandan beri Altman, Sutskever’in şirketteki durumuyla ilgili soruları birçok röportajda yanıtlamayı reddetti. Bu süre zarfında Sutskever’den çok az haber aldık. Bu, Sutskever’in beş aydan uzun bir süredir attığı ilk tweet ve OpenAI’nin baş bilim insanı, Sora ve bu haftaki GPT-4 Omni gibi önemli duyurularda yer alamadı.

Bu yılın başında OpenAI’nin kurucu üyesi Andrej Karpathy şirketten ayrıldı. Bu durumda da Karpathy, ayrılmasının nedenini açıklamadı ve daha sonra kişisel projeler üzerinde çalışacağını açıkladı.

Sutskever, OpenAI liderleri Altman, Mira Murati ile bir fotoğraf yayınladı. Greg Brockmanve Jakub Pachocki çıkışını duyurduktan kısa bir süre sonra. Severa; Fotoğrafta yer alan kişi, Sutskever’in OpenAI’deki görev süresi hakkında nazik mesajlar yayınlayarak, ünlü bilim adamını yapay zeka dünyasına yaptığı katkılardan dolayı övdü.

Sam Altman resmen iade Çarşamba günü OpenAI’nin CEO’su olarak görev yaptı ve Greg Brockman’ın Başkan, Mira Murati’nin CTO ve yeni yönetim kurulu üyelerinden oluşan partisini geri getirdi. OpenAI’nin kurucu ortağı, eski başkanı ve baş bilim insanı Ilya Sutskever henüz geri dönmedi ve şirketteki pozisyonu henüz belirlenmedi.

Sam Altman bir basın açıklamasında, “Ilya’yı seviyorum ve saygı duyuyorum, onun bu alanda yol gösterici bir ışık ve bir insan cevheri olduğunu düşünüyorum” dedi. “Ona karşı hiçbir kötü niyetim yok. Ilya bunu yaparken artık yönetim kurulunda görev yapmıyorumçalışma ilişkimizi sürdürmeyi umuyoruz ve OpenAI’deki çalışmalarına nasıl devam edebileceğini tartışıyoruz.”

Ilya Sutskever yönetim kurulunun önde gelen üyelerinden biriydi Sam Altman’ı devirdiTasha Mccauley ve Helen Toner’la birlikte Altman’ın neden kovulduğunu hala bilmiyoruz. Yeni kurulda geri dönen tek bir üye olacak; Quora CEO’su Adam D’Angelo’ya eski Salesforce CEO’su Bret Taylor ve eski ABD Hazine Bakanı Larry Summers da eşlik edecek. Sutskever kesinlikle yönetim kurulu koltuğunu kaybetti ama aynı zamanda bu basın açıklamasında eski pozisyonuna dönmeyen tek kurucu da o. Altman’ın kurucu ortağı hakkındaki yorumları aynı anda hem sıcak hem de soğuk geliyor.

Sutskever’in bir noktada geri dönmesi hâlâ mümkün ama neden şimdi olmasın? Altman’ın yeni düzeni, Sutskever’in üretken yapay zekaya yönelik temkinli yaklaşımıyla birlikte çalışmıyor mu? Ancak Sutskever’in ekibindeki iki kıdemli araştırmacı Jakub Pachocki ve Szymon Sidor, OpenAI’ye geri döndü. The Information’a göre bu iki araştırmacı Q* modelini oluşturduOpenAI için bildirilen bir atılım, yapay zekanın yakında sınırlı bir muhakeme yeteneğine sahip olabileceğini gösteriyor.

Ayrıca Toner’dan, Sam Altman’ın bir istifa mektubunda neden kovulduğuna dair ilave bilgiler aldık. X’te yayınlandı. Toner, yönetim kurulunun Altman’ı ilerlemeyi yavaşlatmak için kovmuş olabileceği yönündeki spekülasyonlara rağmen yönetim kurulunun “OpenAI’nin çalışmasını yavaşlatma arzusuyla motive olmadığını” söyledi. AGI’yi geliştirmek. Toner, “Kararımız, yönetim kurulunun şirketi etkili bir şekilde denetleme becerisiyle ilgiliydi; bu bizim rolümüz ve sorumluluğumuzdu” dedi. Doğrudan bir cevap olmaktan çok uzak.

OpenAI’nin yeni yönetim kurulu başkanı Bret Taylor, Microsoft’un oy hakkı olmayan bir gözlemci koltuğuna sahip olacağını ve böylece Satya Nadella’nın ani CEO işten çıkarmaları durumunda bir daha asla döngünün dışında kalmamasını sağlayacağını söyledi. Yeni yönetim kurulu aynı zamanda “şirketin çökmesi ve yönetim kurulumuzun CEO’yu kovması”nın basın bülteni dili olan “son olayları” incelemek üzere bağımsız bir komite de oluşturacak. Son olarak Taylor, OpenAI’nin şirketin yönetim yapısını geliştirmeye odaklandığını söyledi. OpenAI, yönetim kuruluna ve kar amacı gütmeyen bölümüne büyük güç veren benzersiz bir yönetim yapısına sahiptir. Bu yapı her zaman OpenAI’nin yapay genel zekayı güvenli bir şekilde geliştirme misyonunun önemli bir parçası gibi görünse de değişime tabi olabilir.