Openai güvenlik araştırmacısı Steven Adler’in “IMO, AGI yarışı çok riskli bir kumar, büyük dezavantajlı,” diye belirtti AI girişiminden çıkışını duyurdu dört yıllık hizmetten sonra. “Hiçbir laboratuvar bugün AI hizalamasına bir çözümü yoktur. Ve ne kadar hızlı yarışırsak, herkesin zamanında bir tane bulması daha az olasıdır.”
Adler’in Openai Echo AI Güvenlik Araştırmacısı ve Louisville Üniversitesi, Roman Yampolskiy’deki Siber Güvenlik Laboratuvarı Direktörü’nden ayrılan mesajında gündeme getirilen güvenlik endişeleri, AI’nın insanlığı sona erdirme olasılığının% 99.999999 olasılığını iddia ediyor.
Bazı kişisel haberler: Dört yıl sonra @openai genelinde güvenlik üzerinde çalıştıktan sonra Kasım ayının ortalarında ayrıldım. Birçok bölüm olan vahşi bir yolculuktu – tehlikeli yetenek evals, ajan güvenliği/kontrolü, AGI ve çevrimiçi kimlik vb. – ve bunun birçok kısmını özleyeceğim.27 Ocak 2025
Dürüst olmak gerekirse, bu günlerde AI gelişiminin temposundan oldukça korkuyorum. Gelecekteki bir aileyi nerede yetiştireceğimi veya emeklilik için ne kadar tasarruf edeceğimi düşündüğümde, yardım edemem ama merak ediyorum: İnsanlık bunu o noktaya getirecek mi? Bugün, gerçekten kötü bir dengede sıkışmış gibi görünüyor. Bir laboratuvar gerçekten AGI’yi sorumlu bir şekilde geliştirmek istese bile, diğerleri hala felaketle yakalamak için köşeleri kesebilir. Ve bu her şeyi hızlandırmaya iter. Umarım laboratuvarlar bunu durdurmak için gereken gerçek güvenlik regs’leri konusunda samimi olabilir.
Eski Openai Araştırmacısı, Steven Adler
Araştırmacının P (Doom) değerlerine göre, kaçınılmaz kıyameti önlemenin tek yolu ilk etapta AI inşa etmek değil. Belki de bu seçenek, sofistike AI ilerlemelerini teşvik etmek için Amerika Birleşik Devletleri genelinde veri merkezlerinin inşasını kolaylaştırmak için Openai ve SoftBank’ın Stargate’de 500 milyar dolarlık bahisiyle birlikte pencereden çıkmıştır.
Adler, güvenlik endişeleri nedeniyle ChatGPT üreticisinden ayrılan ilk çalışan değil. Geçen yıl, Openai’nin hizalama başkanı Jan Leike, süper hizalama lideri ve yönetici, ayrıldığını duyurdu. Eski hizalama potansiyel müşterisi, Openai’nin yeni nesil AI modelleri, güvenlik, izleme ve daha fazlasında temel öncelikler üzerindeki liderliğine katılmadığını açıkladı.
Belki de daha çok ilgili olarak, Leike, AGI gibi parlak ürünler emsaller kazandığı için güvenlik sürecinin arka koltuk aldığını belirtti. Ek olarak, Openai’nin GPT-4O’nun lansmanına koştuğu ve güvenlik testleri yapmak için ekibine bir haftadan daha az tahsis ettiği bildirildi. Yakın ilişkileri olan kaynaklar, Openai’nin güvenlik ekibi test yapmadan önce ürünün lansman kutlama partisi için davetiyeler gönderdiğini belirtti. Bir Openai sözcüsü GPT-4O’nun lansmanının güvenlik ekibine koştuğunu ve stresli olduğunu itiraf ederken, şirketin sıkı son teslim tarihini karşılamak için herhangi bir güvenlik köşesini kesmediğini iddia etti.
Antropik CEO, AI’nın insan ömrünü 2037 yılına kadar 150 yıl uzatacağını söylüyor
Antropik CEO’su İsviçre’nin Davos kentindeki Dünya Ekonomik Forumu’nda konuşurken, Dario Amodei, üretici AI’nın 5 ila 10 yıl içinde insan ömürlerini ikiye katlayabileceğini iddia etti ( x üzerinde tsarnick):
“Tahminimce, 2026 veya 2027 yılına kadar neredeyse her şeyde neredeyse tüm insanlardan daha iyi olan AI sistemlerimiz olacak. Çok fazla olumlu potansiyel görüyorum.”
Antropik CEO Dario Amodei, 2037 yılına kadar insan yaşamının AI pic.twitter.com/9an3zrbxuq27 Ocak 2025
Yönetici, teknoloji, askeri ve sağlıktaki önemli gelişmeleri vurguladı. AI’nın varoluşsal kıyamet yönlendiren teknolojinin raporlarına rağmen insan yaşamını artırabileceğine inanıyor.
Antropik CEO Dario Amodei’ye göre:
“Tahmin etmek zorunda kalsaydım ve bilirsiniz, bu çok kesin bir bilim değil, tahminim, bu AI şeylerini gerçekten doğru alırsak, beş veya on yıl içinde biyoloji gibi alanlarda 100 yıl ilerleme kaydedebiliriz. Bir düşünün, bilirsiniz, insanların 100 yıl içinde biyoloji gibi bir alanda başarmasını bekleyebileceğimizi düşünüyorum, insan yaşamının iki katına çıkmanın hiç çılgınca olmadığını düşünüyorum. Beş ila on yıl içinde bu büyük bir vizyon. bunun için teknolojiler. “
Amodei, “bu çok kesin bir bilim değil”, yani AI’nın ilerlemesinin, AI modellerini eğitmek için yüksek kaliteli içerik eksikliği nedeniyle ölçeklendirme yasalarının başladığı iddialarında farklı bir yol izleyebileceğini itiraf ediyor. İlginç bir şekilde, Openai CEO’su Sam Altman, AI’nın insanlığın yok edilmesi de dahil olmak üzere manzaradaki hızlı ilerlemelerin sonuçlarını çözecek kadar akıllı olacağını iddia ediyor.
Openai, özellikle Altman ekibinin AGI’yi nasıl inşa edeceğini bildiğini ve mevcut donanımla beklenenden daha erken elde edilebileceğini doğruladıktan sonra AGI’ye doğru yarışıyor. Ayrıca şirketin, her yıl on yıl kadar devrimci olarak bilimsel AI atılımlarında 10 kat artışı tetikleyebilecek olan süper -süpergizime odaklanabileceğini ima etti.
