OpenAI bir rapora göre bir sonraki sınır modelini eğittiğini söylüyor Salı günü basın açıklamasıve bunun girişimi genellikle insanlardan daha akıllı olan yapay zeka sistemlerine bir adım daha yaklaştıracağını öngörüyor. Şirket ayrıca, CEO Sam Altman ve diğer OpenAI yönetim kurulu üyelerinin liderliğinde, kritik emniyet ve güvenlik kararlarına rehberlik edecek yeni bir Emniyet ve Güvenlik Komitesi’nin kurulduğunu da duyurdu.
OpenAI bir basın açıklamasında, “Hem yetenekler hem de güvenlik açısından sektör lideri modeller oluşturup piyasaya sürmekten gurur duyuyoruz” dedi. Bu önemli anda güçlü bir tartışmayı memnuniyetle karşılıyoruz.”
Duyuru, Ilya Sutskever ve Jan Leike liderliğindeki bir grubun OpenAI için araştırma yaptığı çalkantılı bir ayın ardından geldi. Yapay zekanın insanlığın varoluşsal riskleri dağıtıldı. Eski OpenAI yönetim kurulu üyeleri Helen Toner ve Tasha McCauley Pazar günü The Economist’te bu gelişmeleri ve Altman’ın dönüşünün ardından diğerlerini yazdılar:OpenAI deneyi için kötüye işaret özyönetim içinde.” Güvenlikle ilgilenen birçok çalışan da son aylarda şirketten ayrıldı ve bunların çoğu yapay zeka sistemlerinin tehlikelerine daha fazla dikkat edilmesi çağrısında bulundu.
Bu yeni grup, OpenAI’nin bu korkuları giderme girişimi gibi görünüyor ve grubun ilk görevi önümüzdeki 90 gün boyunca OpenAI süreçlerini ve korumalarını değerlendirmek olacak. Ancak Altman’ın bu gruba dahil edilmesinin OpenAI’yi eleştirenleri yatıştırması pek mümkün görünmüyor. Toner ve McCauley, üst düzey liderlerin kendilerine Altman’ın OpenAI’de “zehirli bir yalan kültürü” geliştirdiğini söylediğini yazıyor. Daha geçen hafta, Scarlett Johansson, Altman’ın güvenilirliğini sorgulamış görünüyordu şirket tıpkı ona benzeyen bir ses yarattığından.
Altman, Başkan Bret Taylor ve yönetim kurulu üyeleri Adam D’Angelo ve Nicole Seligman Emniyet ve Güvenlik Komitesine liderlik edecek. Şirketin yeni baş bilim insanı Jakub Pachocki, bölüm başkanları Matt Knight, John Sculman, Lilian Weng ve Aleksander Madry ile birlikte komitede yer alacak. Grup ayrıca dışarıdan uzmanlara danışacak ve daha büyük OpenAI kuruluna güvenlik prosedürleri konusunda tavsiyelerde bulunacak.
Şirket, mayıs ayında da GPT-4 Omni’yi yayınladıYapay zeka modelleriyle insan etkileşiminde yeni bir sınırı sergileyen. Bu model, gerçek zamanlı çok modlu etkileşimleriyle yapay zeka topluluğundaki birçok kişiyi şok etti ve görünen o ki OpenAI, bir sonraki modeli eğitme konusunda şimdiden ilerlemeye devam ediyor. Altman’ın girişimi Google ile rekabet etme baskısıyla karşı karşıya Yapay zeka sohbet robotu ortaklığı kazanın Apple ile büyük ölçüde Haziran ayında tanıtılması bekleniyor WWDC. Ortaklık, teknolojideki en önemli iş anlaşmalarından biri olabilir.
Bununla birlikte, OpenAI’nin yeni güvenlik ekibi büyük ölçüde Altman’ın OpenAI’ye dönüşünden sonra göreve getirilen yönetim kurulu üyelerinden ve son ayrılıklar sonucunda daha fazla yetki verilen yeni bölüm başkanlarından oluşuyor. Yeni güvenlik grubu, OpenAI’yi rahatsız eden güvenlik endişelerini gidermeye yönelik küçük bir adım, ancak içeriden bilgi toplamak bu endişeleri susturmak için yeterli görünmüyor.
