Yapay zekanın sözde babalarından biri olan Geoffrey Hinton, Çarşamba günü hükümetleri müdahale etmeye ve makinelerin toplumu kontrol altına almamasını sağlamaya çağırdı.
Hinton, ChatGPT’nin piyasaya sürülmesinden kısa bir süre sonra dünyanın hayal gücünü ele geçirdikten kısa bir süre sonra, yapay zekanın tehlikeleri hakkında daha özgürce konuşmak için on yıllık bir çalışmanın ardından Google’dan ayrıldığını açıkladığında Mayıs ayında manşetlere taşındı.
Toronto Üniversitesi’nde yerleşik olan son derece saygın yapay zeka bilim adamı, Kanada kentinde düzenlenen Çarpışma teknoloji konferansında kalabalık bir dinleyici kitlesine konuşuyordu.
Konferans, çoğu AI dalgasını nasıl yöneteceğini öğrenmek ve tehlikeleri hakkında bir ders almak istemeyen 30.000’den fazla startup kurucusunu, yatırımcıyı ve teknoloji çalışanını bir araya getirdi.
Hinton, “Yapay zeka bizden daha akıllı olmadan önce, onu geliştiren insanların, onun kontrolü nasıl ele geçirebileceğini anlamak için çok çaba sarf etmeleri gerektiğini düşünüyorum” dedi.
“Şu anda AI’yı daha iyi hale getirmeye çalışan 99 çok zeki insan var ve çok zeki bir kişi onun devralmasını nasıl durduracağını bulmaya çalışıyor ve belki de daha dengeli olmak istiyorsunuz” dedi.
Hinton, riskleri abarttığına inanan eleştirmenlerine rağmen, yapay zekanın risklerinin ciddiye alınması gerektiği konusunda uyardı.
“İnsanların bunun bilim kurgu olmadığını, bunun sadece korku tellallığı olmadığını anlamalarının önemli olduğunu düşünüyorum” diye ısrar etti. “Düşünmemiz gereken gerçek bir risk ve bununla nasıl başa çıkacağımızı önceden bulmamız gerekiyor.”
Hinton ayrıca, yapay zekanın konuşlandırılmasından elde edilecek büyük üretkenlik kazancının işçilerin değil zenginlerin yararına olmasıyla birlikte, yapay zekanın eşitsizliği derinleştireceğine dair endişelerini dile getirdi.
“Zenginlik işi yapan insanlara gitmeyecek. Zengini daha zengin yapmaya gidecek, fakiri değil ve bu toplum için çok kötü” diye ekledi.
Ayrıca, ChatGPT tarzı botlar tarafından oluşturulan sahte haberlerin tehlikesine işaret etti ve yapay zeka tarafından üretilen içeriğin, merkez bankalarının nakit parayı nasıl filigran ettiğine benzer bir şekilde işaretlenebileceğini umduğunu söyledi.
“Örneğin, sahte olan her şeyi sahte olarak işaretlemeye çalışmak çok önemli. Bunu teknik olarak yapabilir miyiz, bilmiyorum” dedi.
Avrupa Birliği, şu anda milletvekilleri tarafından müzakere edilmekte olan Avrupa’da AI kurallarını belirleyecek bir mevzuat olan AI Yasasında böyle bir tekniği düşünüyor.
Mars’ta aşırı nüfus
Hinton’un yapay zeka tehlikeleri listesi, güvenlik ve tehditlerden çok ChatGPT’nin ardından yaratılan fırsatın değerlendirilmesiyle ilgili konferans tartışmalarıyla çelişiyordu.
Risk Kapitalisti Sarah Guo, AI’nın varoluşsal bir tehdit olarak kıyamet ve kasvet konuşmasının erken olduğunu söyledi ve başka bir AI gurusu olan Andrew Ng’den alıntı yaparak bunu “Mars’taki aşırı nüfustan bahsetmekle” karşılaştırdı.
Ayrıca, sağlık, eğitim veya bilim gibi sektörlere fayda sağlama şansı bulamadan hükümet müdahalesinin görevdekileri koruduğuna yol açacak “düzenleyici yakalamaya” karşı uyarıda bulundu.
Mevcut üretken yapay zeka devlerinin – özellikle Microsoft destekli OpenAI ve Google – rakipsiz kalıp kalmayacağı veya yeni aktörlerin kendi modelleri ve yenilikleriyle alanı genişletip genişletmeyeceği konusunda görüşler farklıydı.
“Beş yıl sonra, gidip en iyi, en doğru, en gelişmiş genel modeli bulmak istiyorsanız, muhtemelen bunu yapacak sermayeye sahip birkaç şirketten birine gitmeniz gerekeceğini düşünüyorum. Risk sermayesi şirketi Kleiner Perkins’ten Leigh Marie Braswell, “dedi.
Gradient Ventures’tan Zachary Bratun-Glennon, “Bugün bir web siteleri ağımız olduğu gibi bir ağda milyonlarca modelin olacağı” bir gelecek öngördüğünü söyledi.