GPT-5, Dall-E 2, AI düzenlemeleri… OpenAI’nin CTO’su açıklıyor

” olarak alıntılanmıştır. ChatGPT’nin yaratıcısı ” konuşmak Zamanlar, Mira Murati, OpenAI’nin CTO’sudur (Baş Teknoloji Sorumlusu), dolayısıyla şirketin teknik yeniliğine öncülük etmekten sorumludur. ile yapılan bir röportajdaİlişkili basınfirmanın geliştirdiği modellerden ve aynı zamanda hala üstesinden gelmesi gereken zorluklardan bahsediyor.

OpenAI, ChatGPT’den böyle bir başarı beklemiyordu

Kasım ayı sonlarında kullanıma sunulmasından bu yana, ChatGPT tüm teknoloji endüstrisinde devrim yaratarak en büyük oyuncuları arasında üretken yapay zeka (AI) yarışını ateşledi. Chatbot sadece iki ayda 100 milyon kullanıcı kaydetti ve bu da onu tarihin en hızlı büyüyen tüketici uygulaması haline getirdi.

Mira Murati’ye göre OpenAI böyle bir başarıyı beklemiyordu. “ İnsanların bir yapay zeka sistemiyle konuşma fikrine bu kadar hayran kalacağını tahmin etmemiştik. Bu, araştırmanın yalnızca bir özetiydi. Özellikle kullanıcı sayısı açısından bu kadar büyük bir ilgi beklemiyorduk. », o güvenir haber ajansında.

CTO, şirketi tarafından modellerinin olası suiistimallerini önlemek için aldığı önlemler hakkında daha fazla bilgi verme fırsatı buldu, bu da giderek daha fazla endişeye neden olan bir nokta. AI’ları eğitirken, AI’yı aç” iyi davranış olarak kabul edilenleri güçlendirir ve kötü davranış olarak kabul edilenleri zayıflatır ».

Görüntü üreten yapay zeka olan Dall-E 2 örneğini veriyor. “ Gördüğümüz zararlı önyargıları azaltmak istedik. Eğitim veri setindeki kadın ve erkek görüntülerinin oranını ayarladık. Ancak çok dikkatli olmalısınız çünkü başka dengesizlikler yaratma riskiniz var. Bu nedenle sürekli kontroller yapmak gereklidir. Bu durumda, farklı bir önyargımız var çünkü bu görüntülerin çoğu doğası gereği cinsel içerikliydi. Bu nedenle, onu yeniden ayarlamalı ve her müdahalede neyin rahatsız edildiğini görmek için çok dikkatli olmalıyız. “, diye açıklıyor, bu teknolojileri önyargıya maruz kalmadan geliştirmenin tüm karmaşıklığını göstererek.

ChatGPT ile ilgili olarak şirket, insan geri bildirimiyle öğrenmeyi pekiştirdi, böylece model insan tercihleriyle daha uyumlu kullanıcılarla olan etkileşimleri için.

Henüz GPT-5 yok

Mira Murati kabul etti yapay zekanın sıkı bir şekilde düzenlenmesi ihtiyacıOpenAI CEO’su Sam Altman ve Google CEO’su Sundar Pichai gibi. ” OpenAI’de, en azından kurumsal düzeyde bazı standartlar üzerinde anlaşmak için bu sistemleri geliştiren hükümetler, düzenleyiciler ve diğer kuruluşlarla sürekli olarak görüşüyoruz. “, diye yorum yapıyor. Ayrıca şunu düşünüyor: hükümet düzenleyicileri “olmalı dahil olmuş » bu teknolojinin diyalog ve yönetiminde.

GPT-4’ten daha gelişmiş yapay zeka sistemleri arayışına altı ay ara verilmesi çağrısında bulunan binlerce kişinin imzaladığı mektupla ilgili soruya Murati, bunlarda tartışılan risklerin ” geçerli “. Öte yandan, CEO’su gibi, imzacıların işlerini yapma biçimlerinin tartışmayı ilerletmeyi mümkün kılmadığına inanıyor. ” Bir mektubu imzalamanın, güvenlik mekanizmaları kurmanın veya uzay aktörlerini koordine etmenin etkili bir yolu olduğunu düşünmüyorum. diye belirtiyor.

CTO ayrıca mektupta yapılan ve doğru olmadığını düşündüğü bazı ifadeleri de kınamaktadır. Sam Altman’ın bu konuda yaptığı yorumları yineliyor: OpenAI, GPT-5 üzerinde çalışmıyor. Şirketin olduğunu gösterir önümüzdeki altı ay içinde bunu yapmayı düşünmüyor “. Ayrıca GPT-4’ün konuşlandırıldığını hatırlıyor “ çok sayıda koruma ile ve çok koordineli ve yavaş bir şekilde. Herkesin kullanımına hazır değildir ve kesinlikle açık kaynak değildir. “. Örneğin, OpenAI, önyargılarını tespit etmek ve düzeltmek için kırmızı bir ekibi dil modelini test etmeye çağırdı.

” Bütün bunlar, bu AI sistemlerinin ve herhangi bir karmaşık teknolojik sistemin güvenlik ve koordinasyon mekanizmalarının zor olduğunu ve oyuncular arasında çok fazla düşünce, keşif ve koordinasyon gerektirdiğini söylemek için. ” diyerek bu konuyu bitiriyor.

Fotoğraf: Jonathan Kemper / Unsplash.

Yakında yapay genel zeka&nbsp?

Mira Murati, OpenAI’nin artık oluşturulduğundaki gibi kar amacı gütmeyen bir kuruluş olmamasına rağmen şunları sağladığını açıklıyor: ” Kâr amacı gütmeyen kuruluş misyonuna hizmet etmeye devam edebilmemiz için teşvikleri yapılandırın “. 2018’de firmaya katıldığında, yapay zekanın ” insanoğlunun yarattığı en önemli teknoloji artık OpenAI gibi bir şirketin bunu güvenli bir şekilde yapmanın en iyi yolu olduğuna inanıyor.

Ancak şu an için şunu kabul ediyor: dil modeli, yapay genel zeka (AGI) alanına ulaşmaktan hala çok uzak.. Yapay zekanın evrimindeki son aşama olarak kabul edilen bu kavram, bir insanın gerçekleştirebileceği herhangi bir entelektüel görevi anlama veya öğrenme yeteneğine sahip bir teknolojiyi ifade eder. ” Güvenli, güvenilir ve uyumlu bir AGI sistemine sahip olmaktan çok uzağız. Oraya giden yolumuzun birkaç önemli vektörü var “diyor mühendis.

Bunu başarmak için vurguluyor modelleri gerçek koşullar altında test etmenin ve doğrulamanın önemi. ” Bu teknolojiyi laboratuvar ortamında boşlukta geliştirmek yeterli değildir. Zayıflıkların, kırılma noktalarının nerede olduğunu görmek ve bunu kontrollü, düşük riskli bir şekilde yapmaya çalışmak, mümkün olduğunca çok geri bildirim almak için gerçeklikle, gerçek dünyayla bu temasa gerçekten ihtiyacımız var. “, o anlatıyor. Aksine, bazı uzmanlar tam olarak bu sistemlerin risklerini değerlendirmek ve onları devreye almadan önce araştırmaları yavaşlatmak istiyor.