Sam Altman ezildi söylentiler OpenAI, ChatGPT-5 üzerinde çalışmaya başladıktan sadece bir ay sonra. şirketin GPT-4’ünü piyasaya sürmesi. Altman, şu anda eğitimde GPT-5 olmadığını söyledi. sanal olarak konuşmak Massachusetts Institute of Technology’deki bir etkinlikte.
MIT’de bir AI araştırmacısı olan görüşmeci Lex Fridman, Altman’a yakın zamanda yayınlanan ve geniş çapta dolaşan AI duraklaması talep eden açık mektup. Yanıt olarak, OpenAI kurucusu bazı eleştirilerini paylaştı. “OpenAI’nin şu anda GPT-5’i eğittiği iddia edilen mektubun önceki bir versiyonu. Değiliz ve bir süre daha olmayacağız, ”dedi Altman. “Yani bu anlamda [the letter] biraz aptalcaydı.
Ancak, GPT-5 olsun ya da olmasın, Altman’ın ifadesinin, ilk olarak bir raporda belirtildiği gibi, AI’nın eleştirilerine özellikle güven verici olması muhtemel değildir. sınır. Teknoloji kurucusu, “GPT-5 yok” duyurusunun ardından, GPT-4 için yükseltme ve güncelleme çalışmalarının yapıldığını hemen açıklayarak devam etti. Bir teknolojinin kapasitesini artırmanın, onun resmi, daha yüksek numaralı bir sürümünü yayınlamanın ötesinde yolları vardır.
Altman, “GPT-4’ün yanı sıra, ele alınması önemli olan ve tamamen mektubun dışında bırakılan her türlü güvenlik sorununa sahip olduğunu düşündüğüm başka şeyler yapıyoruz” dedi – özünde, OpenAI’nin ürün ayarlamalarını gönderdiğini kabul ediyor. tamamen optimize edilmemiş olabilir insanlığın iyiliği veya kullanıcı güvenliği için. Örneğin, Mart ayı sonlarında şirket piyasaya sürdü. sağlayan bir GPT-4 eklentisi geniş dil modeli internette geziniyor, bu da daha fazla veri gizliliği Ve kullanıcı manipülasyonu endişeler.
Altman, AI korkularını yatıştırmak için yetersiz bir çaba sarf etti. OpenAI’nin, halka açıklanmadan önce GPT-4’ü eğitmek için altı aydan fazla zaman harcadığını söyledi. Ayrıca, “modelin güvenliğini gerçekten incelemek için zaman ayırmak … bu önemli” dedi.
Altman, “Yetenekler giderek daha ciddi hale geldikçe güvenlik çubuğunun artması gerekiyor” diye ekledi. “Güvenlik sorunları için dikkatli hareket etmenin ve artan titizliğin gerçekten önemli olduğunu düşünüyorum. Mektup, onu ele almanın en uygun yolu olduğunu düşünmüyorum.”
Yine de muhtemelen almalısın OpenAI CEO’sunun güvenlik önceliklendirme iddiaları biraz şüpheyle karşılanıyor. Perşembe günkü MIT röportajında bile, her şey değil tartışmalı girişimci doğru çaldı dedi.
OpenAI’nin ileriye dönük şeffaf olmaya devam edip etmeyeceği sorulduğunda Altman, “bunu kesinlikle yapmaya devam etmeyi planlıyoruz” dedi. Sorunun kendisi dışında yanıltıcı bir softball. Bir zamanlar gerçekten açık kaynaklı, kâr amacı gütmeyen bir kuruluş olan OpenAI, giderek daha kapalı, kâr amacı güden bir şirket haline geldi. Özellikle GPT-4 bir kara kutudur.. Şirket, en son chatbot’unun ince ayarının yapıldığı eğitim verileri hakkında herhangi bir bilgi yayınlamadı. GPT-4’ün mimarisi, yapısı veya diğer gerçek iç işleyişi hakkında da herhangi bir bilgi paylaşmadı.
“GPT-4 gibi büyük ölçekli modellerin hem rekabet ortamı hem de güvenlik üzerindeki etkileri göz önüne alındığında, bu rapor mimari (model boyutu dahil), donanım, eğitim hesaplaması, veri kümesi oluşturma, eğitim yöntemi veya benzeri hakkında daha fazla ayrıntı içermiyor.” OpenAI yazdı teknik rapor şirketin GPT-4 sürümüyle birlikte yayınladığını.
Altman da kendine bir şans vereceğinden emindi. Söylediği şeylerin doğru olduğundan emin olmayabilir:
Bence diğer birçok şirket, doğru olduğundan emin olana kadar bir şey söylemek istemiyor. Ancak bu teknolojinin hepimizi o kadar etkileyeceğini düşünüyorum ki, herkesi tartışmaya dahil etmenin, bu sistemleri -mevcut hallerinde olmalarına rağmen son derece kusurlu- insanların deneyimleyebilmesi için dünyaya yaymanın, onlar hakkında düşünün, artıları ve eksileri anlayın; Toplum içinde kendimizi utandırma eğiliminde olsak ve yeni verilerle sık sık fikrimizi değiştirmek zorunda kalsak da, ödün vermeye değer.
AI sohbet botlarının olduğuna inanabilirsiniz. sonun başlangıcı insan ırkının Ya da hepsini düşünebilirsiniz bu sözde “yapay zeka” olayı abartılıyor. Çağrının neresinde olursanız olun altı aylık yapay zeka moratoryumu olsa da, Altman’ın açık mektuba verdiği yanıt, nihayetinde bir tür yanıtsızlıktır.