Yapay Zeka (AI) hızla gelişiyor ve bu, önde gelen bilim adamları arasında ciddi korkulara neden oluyor. 7 Şubat 2025, AI Eylem Zirvesi’nin arifesinde, yapay zeka ve makine öğrenimi alanında seçkin Kanadalı bilim adamı Yoshua Bengio, teknolojik dev yarışın potansiyel olarak “zararlı” sonuçları konusunda uyardı. Giderek daha güçlü sistemler yaratma yapay zeka.
2018 Prestijli Turing Ödülü’nün ödüllü Benjio, Paris Ens Üniversitesi’nde AI’nın güvenliği hakkında ilk uluslararası rapor sundu. Yanlış veya yanıltıcı bir içeriğin yaratılması gibi AI kullanmanın zaten yaygın olarak tanınmış risklerine dikkat çekti. Bununla birlikte, Montreal Üniversitesi profesörü “biyolojik saldırılar veya siber saldırılar gibi ek risklerin kanıtı sürekli ortaya çıktığını” vurguladı.
Uzun vadede Benjio, bir kişinin yapay zeka sistemleri üzerindeki olası bir “kontrol kaybından” korkuyor ve bu da potansiyel olarak “hayatta kalma arzuları” ile motive edilebiliyor. Bilim adamı, ucuz ve yüksek performanslı bir Çin’in Deepseek AI modelinin ortaya çıkması “Güvenliğe katkıda bulunmayan yarışı hızlandırdı” diye ekledi.
Benjio, şu anda bu sektöre yatırım yapılan büyük yatırımlardan “küçük bir pay” oluşturan güvenlik alanında daha katı uluslararası düzenleme ve daha kapsamlı araştırmalar çağrısında bulundu. “Hükümet müdahalesi olmadan, bununla nasıl başa çıkabileceğimizi bilmiyorum” dedi.
Halen AI alanında önde gelen ülke olan ABD, eski Başkan Joe Biden’in Donald Trump’ın açılmasından sonra bazı kalkınma kuralları getirme girişimini terk etti. Openai Chatgpt iki yıl önce halka açık sahneye girdiğinde, Bengio “güvenlik konusu hakkında düşüncenin aciliyetini” hissetti. Hükümetlerarası İklim Değişikliği Uzman Grubu’nun (MGEIK) zaten tanıdık belgelerinin modelinde geliştirilen bir rapor sundu.
“En önemlisi, insanlığın 10 yıl boyunca kaybolabileceğinden korkuyorum. Dehşete kapılmış. Daha fazla insanın neden farkında olmadığını anlamıyorum ”dedi.
30 ülkeden yaklaşık 100 uzman, BM, Avrupa Birliği temsilcileri ve Uluslararası Ekonomik İşbirliği ve Kalkınma Örgütü, Ocak ayı sonunda yayınlanan Benjio önderliğinde rapora katkıda bulundu. Üzerine çalışmalar Kasım 2023’te İngiltere’deki önceki güvenlik zirvesinde başladı.
