Ne bilmek istiyorsun
- Eski bir OpenAI araştırmacısı, yapay zekanın ilerlemesini ve büyümesini, güvenlik zorluklarını ve daha fazlasını özetleyen 165 sayfalık bir rapor yayınladı.
- Makale, OpenAI’nin 2027 yılına kadar Yapay Genel Zeka’ya (AGI) ulaşabileceğini öne sürüyor ancak güç kaynağı ve GPU’lara yönelik artan talep, kıyaslama için büyük bir tehdit oluşturuyor.
- Yazara göre sadece birkaç yüz kişi teknoloji ve gelişmelerin geleceği nasıl etkileyeceği konusunda durumsal farkındalığa sahip.
Üretken yapay zeka şu anda teknoloji dünyasında büyük bir öneme sahip. Yapay zekanın Microsoft gibi şirketleri 3 trilyon doları aşan piyasa değerlemesiyle dünyanın en değerli şirketi haline getirdiğini gördük. Piyasa analistleri, katlanarak artan büyümeyi Redmond devinin erken liderliğine ve teknolojiyi benimsemesine bağlıyor. NVIDIA bile yakın zamanda Apple’ı geride bırakıp yapay zeka ilerlemelerine yönelik yüksek GPU talebi nedeniyle dünyanın en değerli ikinci şirketi haline geldikten sonra yapay zeka ile iPhone anını yakalamanın eşiğinde.
Microsoft ve OpenAI tartışmasız yapay zekaya yoğun yatırım yapan en iyi teknoloji firmaları arasında yer alıyor. Ancak ortaklıkları tartışmalara yol açtı ve içerdekiler Microsoft’un “yeni girişim için övgüye layık bir BT departmanına” dönüştüğünü belirtti. Buna karşılık milyarder Elon Musk, OpenAI’nin görünüşte Microsoft’un kapalı kaynaklı fiili bir yan kuruluşuna dönüştüğünü söylüyor.
Her iki teknoloji şirketinin de karmaşık bir ortaklığa sahip olduğu ve OpenAI’yi etkileyen son tartışmaların bu duruma yardımcı olmadığı bir sır değil. GPT-4o’nun piyasaya sürülmesinin ardından bir avuç üst düzey çalışan OpenAI’den ayrıldı. Ayrılışlarının ardındaki açıklama en iyi ihtimalle zayıf kalsa da, eski süper hizalama lideri Jan Leike, yapay zeka ilerlemelerinin şirkette izlediği gidişattan endişe duyduğunu belirtti. Ayrıca, güvenlik ve mahremiyetin arka planda kalması nedeniyle firmanın görünüşte parlak ürünlerin geliştirilmesine öncelik verdiğini belirtti.
Bu amaçla yapay zekanın önümüzdeki birkaç yıl içinde izleyeceği yolu söylemek imkansız, ancak NVIDIA CEO’su Jensen Huang bir sonraki yapay zeka dalgasına çarpmanın eşiğinde olabileceğimizi belirtiyor. CEO ayrıca, otonom araçların ve insansı robotların kategoriye hakim olduğu robot teknolojisinin bir sonraki büyük şey olduğunu belirtiyor.
Ancak yakın zamanda yapay zekanın, güvenliğin ve daha fazlasının hızlı büyümesini ve benimsenmesini vurgulayan 165 sayfalık bir rapor yayınlayan eski bir OpenAI araştırmacısına göre, şu anda görünen o ki, geleceğin bizim için neler getirebileceğine dair biraz fikir sahibi olabiliriz ( aracılığıyla İşletme İçeriği).
Leopold Aschenbrenner, OpenAI’nin süper hizalama ekibinde araştırmacı olarak çalıştı ancak şirketin genel yapay zekaya hazırlığı hakkında kritik bilgileri sızdırdığı için kovuldu. Ancak Aschenbrenner, paylaştığı bilgilerin kamuya açık bilgilere dayanması nedeniyle “tamamen normal” olduğunu belirtiyor. Şirketin ondan kurtulmanın bir yolunu aradığından şüpheleniyor.
Araştırmacı, Sam Altman’ın geçen yıl yönetim kurulu tarafından kovulmasının ardından CEO olarak yeniden görevlendirilmesini isteyen mektubu imzalamayı reddeden OpenAI çalışanları arasında yer alıyor. Aschenbrenner bunun kovulmasına katkıda bulunduğuna inanıyor. Bu, eski yönetim kurulu üyelerinin, iki OpenAI çalışanının CEO’nun psikolojik taciz iddialarıyla yönetim kuruluna ulaştığını ve bunun da genel olarak şirkette toksik bir atmosfere katkıda bulunduğunu iddia etmesinin ardından geldi. Eski yönetim kurulu üyeleri ayrıca Altman’ın yakında CEO olarak geri dönüşünü desteklemeyen OpenAI çalışanlarının da mektubu “korkulan” misilleme olarak imzaladığını belirtti.
OpenAI süper zeka testine beklediğimizden daha erken ulaşabilir
Aschenbrenner’ın raporuna göre yapay zekanın ilerlemesi yukarı doğru bir seyir izleyecek. Röportajlar sırasında konu hakkında ne kadar tutkuyla konuştuğuna bakılırsa, Sam Altman’ın süper zekaya karşı zaafı olduğu bir sır değil. Ocak ayında CEO, OpenAI’nin bu inanılmaz başarının kilidini açmasına yardımcı olabilecek ilerlemeleri aktif olarak araştırdığını itiraf etti. Ancak şirketin onu takip ederken radikal bir yol mu yoksa artan bir yol mu izlediğini açıklamadı.
Bildiğiniz gibi süper zeka, insan muhakemesini aşan bilişsel yeteneklere sahip bir sisteme sahip olmak anlamına gelir. Ancak bu kriterin insanlık için ne anlama gelebileceği konusunda endişeler var. Bir yapay zeka araştırmacısı, p(doom)’a göre %99,9 olasılıkla insanlığın sonunu getirebileceğini ve bu sonuçtan kaçınmanın tek yolunun ilk etapta yapay zeka geliştirmeyi durdurmak olduğunu ortaya çıkardı. İlginç bir şekilde Sam Altman, yapay zekanın ilerleyişini durduracak büyük bir kırmızı düğmenin olmadığını itiraf etti.
Metin, ses ve daha fazlasında akıl yürütme yeteneklerine sahip GPT-4o gibi yeni amiral gemisi yapay zeka modellerinin ortaya çıkmasıyla birlikte, bu ilerleme yakın zamanda duracak gibi görünmüyor. Hesaplama gücü ve algoritmik verimlilik eğilimleri, yapay zekanın hızlı bir büyüme yaşamaya devam edeceğini gösteriyor. Ancak OpenAI’nin nükleer füzyonu öngörülebilir gelecek için makul bir alternatif olarak görmesi nedeniyle güç tedariği konusunda kritik endişeler var.
Aschenbrenner, yapay zeka gelişiminin 2027 yılına kadar daha yüksek seviyelere ölçeklenebileceğini ve insan yapay zeka araştırmacılarının ve mühendislerinin yeteneklerini aşabileceğini söylüyor. GPT-4 (en iyi ihtimalle biraz utanç verici olarak anılır), niteliksel verilere erişim olmadan gelecekteki kazanç eğilimlerini tahmin etme konusunda profesyonel analistleri ve gelişmiş yapay zeka modellerini şimdiden geride bıraktığından, bu tahminler tamamen gerçekçi değil. Microsoft CTO’su Kevin Scott da benzer düşünceleri paylaşıyor ve doktora yeterlik sınavlarını geçebilecek daha yeni yapay zeka modellerini öngörüyor.
Rapor ayrıca daha fazla şirketin yapay zeka mücadelesine katılacağını ve veri merkezleri, GPU’lar ve daha fazlasını içeren yapay zeka ilerlemelerini destekleyecek sistemlerin geliştirilmesine trilyonlarca dolar yatırım yapacağını gösteriyor. Bu, Microsoft ve OpenAI’nin, GPUS konusunda kendilerini NVIDIA’ya aşırı bağımlılıktan kurtarmak için Stargate adlı bir projeye 100 milyar doların üzerinde yatırım yaptığına dair raporların ortasında gerçekleşti.
Yapay zeka ilerledikçe Güvenlik, Gizlilik ve Düzenleme temel öncelikler olmaya devam ediyor
Raporlar, yapay zekanın eninde sonunda insanlardan daha akıllı hale geleceğini, onların işlerini devralacağını ve çalışmayı bir hobiye dönüştüreceğini öne sürüyor. Bunun insanlık üzerinde yaratabileceği sonuçlar konusunda artan bir endişe var. OpenAI CEO’su Sam Altman bile, tüm yapay zeka ilerlemelerinin güvenli olmasını ve “felaket sonuçlardan” kaçınmak için havayolları gibi denetlenmesini sağlayacak bağımsız bir uluslararası kuruma ihtiyaç olduğunu düşünüyor.
Belki de daha ilginç olanı, Aschenbrenner’ın raporunun yapay zekanın gelecek üzerindeki etkisini yalnızca birkaç yüz kişinin anladığını öne sürmesidir. Çoğunun San Francisco’daki yapay zeka laboratuvarlarında çalıştığını ekledi (potansiyel olarak OpenAI çalışanlarına atıfta bulunuyor).
