OpenAI CEO’su ve kurucu ortağı Sam Altman, yapay zeka sistemlerinin oluşturduğu tehditlerle ilgili bir tartışmada, şirketin şu anda yapay zeka dil modeli GPT-4’ün varsayılan halefi olan GPT-5’i eğitmediğini doğruladı. bu mart yayınlandı.
konuşma MİT’te olay, Altman’a, OpenAI gibi laboratuvarların “GPT-4’ten daha güçlü” yapay zeka sistemlerinin gelişimini durdurmasını talep eden teknoloji dünyasında kısa süre önce dağıtılan bir açık mektup soruldu. Mektup, gelecekteki sistemlerin güvenliğiyle ilgili endişeleri vurguladı, ancak eleştirildi bir dizi imza sahibi de dahil olmak üzere sektördeki birçok kişi tarafından. Uzmanlar, AI’nın oluşturduğu tehdidin doğası (varoluşsal mı yoksa daha sıradan mı?) ve endüstrinin gelişimi en başta nasıl “duraklatabileceği” konusunda hemfikir değiller.
MIT’de Altman, mektubun “duraklamaya ihtiyaç duyduğumuz yerle ilgili çoğu teknik nüansın eksik olduğunu” söyledi ve daha önceki bir sürümün OpenAI’nin şu anda GPT-5’i eğittiğini iddia ettiğini kaydetti. Altman, “Değil ve bir süre daha olmayacağız” dedi. “Yani bu anlamda biraz aptalcaydı.”
Bununla birlikte, OpenAI’nin GPT-5 üzerinde çalışmaması, GPT-4’ün yeteneklerini genişletmediği veya Altman’ın vurgulamaya istekli olduğu gibi, bu tür işlerin güvenlik üzerindeki etkilerini göz önünde bulundurmadığı anlamına gelmez. “GPT-4’ün yanı sıra ele alınması önemli olan ve tamamen mektup dışında bırakılan her türlü güvenlik sorununa sahip olduğunu düşündüğüm başka şeyler yapıyoruz” dedi.
Değişimin videosunu aşağıdan izleyebilirsiniz:
GPT aldatmacası ve sürüm numaralarının yanılgısı
Altman’ın yorumları ilginç – ancak OpenAI’nin gelecek planları hakkında ortaya koydukları şey nedeniyle değil. Bunun yerine, AI güvenliği hakkındaki tartışmada önemli bir zorluğun altını çiziyorlar: ilerlemeyi ölçmenin ve izlemenin zorluğu. Altman, OpenAI’nin şu anda GPT-5’i eğitmediğini söyleyebilir, ancak bu özellikle anlamlı bir ifade değildir.
Karışıklığın bir kısmı, benim sürüm numaralarının yanılgısı olarak adlandırdığım şeye atfedilebilir: numaralı teknoloji güncellemelerinin, yetenekteki kesin ve doğrusal gelişmeleri yansıttığı fikri. Bu, yeni telefonlara veya işletim sistemlerine atanan numaraların sürüm kontrolünün titizliğini amaçladığı, ancak aslında yalnızca pazarlama araçları olduğu tüketici teknolojisi dünyasında yıllardır beslenen bir yanlış anlamadır. Bu sistemin mantığı “Tabii ki iPhone 35, iPhone 34’ten daha iyi” şeklindedir. “Sayı daha büyük, ipso facto telefon daha iyi.”
Tüketici teknolojisi ve yapay zeka dünyaları arasındaki örtüşme nedeniyle, aynı mantık artık genellikle OpenAI’nin dil modelleri gibi sistemlere uygulanmaktadır. Bu, yalnızca süper zeki yapay zekanın birkaç yıl içinde burada olacağını tahmin eden hiperbolik 🤯 Twitter ileti dizileri 🤯 yayınlayan türden işportacılar için geçerli değil. çünkü sayılar büyümeye devam ediyor ama aynı zamanda daha bilgili ve sofistike yorumcular. Yapay Zeka süper zekası hakkında öne sürülen pek çok iddia esasen yanlışlanamaz olduğundan, bu kişiler kendi noktalarını anlatmak için benzer retoriğe güveniyorlar. “İlerleme” ve “zaman” etiketli eksenlerle belirsiz grafikler çizerler, yukarı ve sağa doğru giden bir çizgi çizerler ve bunu eleştirmeden kanıt olarak sunarlar.
Bu, AI güvenliği ile ilgili korkuları göz ardı etmek veya bu sistemlerin hızla geliştiği ve tamamen kontrolümüz altında olmadığı gerçeğini göz ardı etmek anlamına gelmez. Ama iyi argümanlar ve kötü argümanlar olduğunu söylemektir ve sırf bir şeye – yeni bir telefon ya da zeka kavramı – bir numara vermiş olmamız, onun tam ölçüsüne sahip olduğumuz anlamına gelmez.
Bunun yerine, bu tartışmalarda odak noktasının yetenekler olması gerektiğini düşünüyorum: bu sistemlerin neler yapıp yapamayacağının gösterilmesi ve bunun zaman içinde nasıl değişebileceğine dair tahminler.
Bu nedenle, Altman’ın OpenAI’nin şu anda GPT-5 geliştirmediğini doğrulaması, AI güvenliği konusunda endişelenen insanlar için herhangi bir teselli olmayacaktır. Şirket, GPT-4’ün potansiyelini genişletmeye devam ediyor (örneğin, onu internete bağlayarak) ve sektördeki diğerleri, yapay zeka sistemlerinin kullanıcılar adına hareket etmesine izin vererek benzer iddialı araçlar geliştiriyor. Ayrıca GPT-4’ü optimize etmek için şüphesiz yapılan her türlü çalışma var ve OpenAI önce GPT-4.5’i yayınlayabilir (GPT-3.5’te olduğu gibi) – sürüm numaralarının yanıltıcı olabileceği başka bir yol.
Dünya hükümetleri bir şekilde yasaklamayı uygulayabilse bile yeni AI gelişmeleri, toplumun şu anda mevcut olan sistemlerle meşgul olduğu açıktır. Elbette, GPT-5 henüz gelmiyor, ancak GPT-4’ün hala tam olarak anlaşılmaması önemli mi?
