Güvenlik ve mahremiyet kaygılarının yanı sıra, teknoloji hızla ilerledikçe üretken yapay zekanın insanlığı sona erdirme olasılığı kritik bir bilmece olmaya devam ediyor. Yakın zamanda, Louisville Üniversitesi Siber Güvenlik Laboratuvarı yöneticisi ve yapay zeka güvenlik araştırmacısı Roman Yampolskiy (%99,999999’luk tahminiyle tanınan yapay zekanın insanlığın sonunu getireceğini tahmin ediyor), imrenilen YGZ kriterinin artık belirli bir zaman dilimine bağlı olmadığını belirtti. Başarıyı, yeterli bilgi işlem gücü ve veri merkezi satın almaya yetecek kadar parası olan herkese göre daralttı.
Bildiğiniz gibi, OpenAI CEO’su Sam Altman ve Anthropic’ten Dario Amodei, çeşitli görevlerde insanın bilişsel yeteneklerini aşan güçlü yapay zeka sistemleri içeren YGZ’nin önümüzdeki üç yıl içinde elde edileceğini öngörüyor. Sam Altman, mevcut donanımlarla YGZ’nin beklenenden daha kısa sürede gerçekleştirileceğine inanırken, eski Google CEO’su Eric Schmidt, yapay zeka gelişiminin, kendini geliştirmeye başladığında fişini çekmeyi düşünmemiz gerektiğini söylüyor (aracılığıyla) Talih).
Amerikan televizyon ağı (ABC News) ile yakın zamanda yapılan bir röportajda yer alan yönetici şunları belirtti:
“Sistem kendini geliştirebildiğinde, onu fişten çekmeyi ciddi olarak düşünmeliyiz. Çok zor olacak. Bu dengeyi korumak çok zor olacak.”
Schmidt’in yapay zekanın hızlı ilerlemesine ilişkin yorumları, çeşitli raporların OpenAI’nin o1 akıl yürütme modelinin geniş çapta kullanıma sunulmasının ardından halihazırda YGZ’ye ulaşmış olabileceğini gösterdiği kritik bir dönemde ortaya çıkıyor. OpenAI CEO’su Sam Altman ayrıca süper zekanın birkaç bin gün uzakta olabileceğini belirtti.
Yapay Genel Zeka (AGI) güvenli midir?
Ancak eski bir OpenAI çalışanı, OpenAI’nin gıpta ile bakılan AGI kriterine ulaşmanın eşiğinde olsa da ChatGPT üreticisinin, insanın bilişsel yeteneklerini aşan yapay zeka sisteminin gerektirdiği her şeyi halledemeyebileceği konusunda uyarıyor.
İlginç bir şekilde Sam Altman, AGI kıyaslaması ile ilgili vurgulanan güvenlik endişelerinin “AGI anında” yaşanmayacağını söylüyor. Ayrıca AGI’nin şaşırtıcı derecede az toplumsal etkiyle geçip gideceğini belirtti. Bununla birlikte, 2025 ve sonrasında çoğu görevde insanlardan daha iyi performans gösteren yapay zeka ajanları ve yapay zeka sistemleri içeren yapay zeka ile süper zeka arasındaki gelişimin uzun süre devam edeceğini öngörüyor.
