Yapay zeka teknolojisinin en ön saflarında yer alan kişiler, son derece akıllı yapay zeka sistemlerinin potansiyel yıkıcı etkileri hakkında yorum yapıyorsa, o zaman oturup dikkate almak akıllıca olacaktır.
Sadece birkaç ay önce, alandaki öncü çalışmaları nedeniyle yapay zekanın “babalarından” biri olarak kabul edilen Geoffrey Hinton, teknolojinin hızlı gelişim hızının, süper zeki yapay zekanın “akıl almaz olmadığı” anlamına geldiğini söyledi. insan zihninden daha üstün olduğu düşünülürse – sonunda insanlığı yok edebilir.
Ve viral ChatGPT sohbet robotunun arkasındaki şirket olan OpenAI’nin CEO’su Sam Altman, gelişmiş AI sistemlerinin toplum üzerindeki potansiyel etkilerinden “biraz korktuğunu” itiraf etmişti.
Altman o kadar endişeli ki Çarşamba günü şirketi, süper zeki yapay zekanın sonunda kaosa veya çok daha kötü bir şeye neden olmamasını sağlamayı amaçlayan Superalignment adlı yeni bir birim kurduğunu duyurdu.
“Süper zeka, insanlığın şimdiye kadar icat ettiği en etkili teknoloji olacak ve dünyanın en önemli sorunlarının birçoğunu çözmemize yardımcı olabilir.” OpenAI dedi yeni girişimi tanıtan bir gönderide. “Ancak süper zekanın muazzam gücü aynı zamanda çok tehlikeli olabilir ve insanlığın güçsüzleşmesine ve hatta yok olmasına yol açabilir.”
OpenAI, süper zeki yapay zekanın çok uzak gibi görünse de, 2030’a kadar geliştirilebileceğine inandığını söyledi. haydut.”
Durumla başa çıkmak için OpenAI, süper zeki bir yapay zeka üzerinde güvenlik kontrolleri gerçekleştirecek “kabaca insan düzeyinde otomatikleştirilmiş bir hizalama araştırmacısı” oluşturmak istiyor ve bu riskleri yönetmenin ayrıca yönetişim ve süper zeka uyumu sorununu çözmek için yeni kurumlar gerektireceğini de sözlerine ekliyor.
Superalignment’ın bir etkisinin olması için OpenAI’nin en iyi makine öğrenimi araştırmacıları ve mühendislerinden oluşan bir ekip kurması gerekiyor.
Şirket, çabası hakkında çok açık sözlü görünüyor ve bunu “inanılmaz derecede iddialı bir hedef” olarak tanımlarken, “başarının garanti edilmediğini” de kabul ediyor. Ancak, “odaklanmış, uyumlu bir çabanın bu sorunu çözebileceği konusunda iyimser” olduğunu da ekliyor.
OpenAI’nin ChatGPT’si ve Google’ın Bard’ı gibi yeni yapay zeka araçları ve diğerleri o kadar devrim niteliğindedir ki uzmanlar, bu süper zeka öncesi seviyede bile, işyerinin ve daha geniş toplumun yakın vadede köklü değişikliklerle karşı karşıya kalacağından emindir.
Bu nedenle, dünyanın dört bir yanındaki hükümetler, teknolojinin güvenli ve sorumlu bir şekilde uygulanmasını sağlamak amacıyla hızla gelişen yapay zeka endüstrisine düzenlemeler getirmek için aceleyle hareket ederek yetişmek için çabalıyorlar. Bununla birlikte, tek bir yapı oluşturulmadığı sürece, her ülkenin teknolojiyi en iyi nasıl kullanacağı konusunda kendi görüşleri olacaktır, bu da bu düzenlemelerin büyük ölçüde değişebileceği ve belirgin şekilde farklı sonuçlara yol açabileceği anlamına gelir. Ve Superalignment’ın hedefine ulaşılmasını daha da zorlaştıracak olan bu farklı yaklaşımlardır.