Yapay zekanın mühendislikte ilerlemesi ivme kazanmaya devam ediyor, ancak teknolojinin büyük ölçekli uygulamasına sadece atılımlar değil, aynı zamanda karmaşık zorluklar da eşlik ediyor. Tartışmanın başlangıç noktası, otonom otomobillerin 150 milin üstesinden gelmeye çalıştığı 2004 DARPA yarışmasıydı – en iyi sonuç 8 mil’i geçmedi. Sadece bir yıl sonra, beş araba 132 millik bir rotayı tamamladı ve bugün insansız taksiler, San Francisco’dan Pekin’e düzinelerce megasitede bir gerçeklik haline geldi.
Rama Challappa, Guru Madhawan, Ed Schlezinger ve John Anderson liderliğindeki bir grup bilim adamı olan PNAS Nexus Magazine’in makalesinde, AI’nın kilit endüstrilerdeki potansiyelinin bir analizini gerçekleştirdiler: ulaşım ve robot cerrahisinden yeni malzemelerin gelişimine. Yazarlar, teknolojinin etrafındaki coşkunun genellikle sistemik riskleri göz ardı ettiğini belirtiyorlar. Örneğin, otonom sistemler insan yönetimine kıyasla daha düşük bir kaza yüzdesi gösterir, bu da şu soruyu gündeme getirir: AI’nın objektif olarak daha güvenli olduğu yerlerde manuel kontrolün korunmasına izin verilir mi?
Bununla birlikte, temel sorunlar teknolojik iyimserliğin arkasına gizlenmiştir. Verilere dayalı veriler “etki alanı kayması” ndan muzdariptir – eğitim örneğinden farklı olan giriş verileriyle çalışırken doğruluğu azaltır. Algoritmalar, giriş sinyallerindeki minimum değişikliklerin (örneğin, yol işaretlerindeki çıkartmalar) sistemleri yönlendireceği saldırılara karşı savunmasızdır. Dahası, kararların önyargısı, açıklanabilirlik ve etik ikilem eksikliği – kişisel verilerin sızıntılarından ayrımcılığın otomasyonuna kadar – nestle olmaya devam etmektedir.
Yazarlar makroekonomik sonuçlara özel dikkat gösteriyorlar. Tahminlerine göre, endüstri ve tıpta AI-çözünürlüklerin tanıtılması, tüm profesyonel grupları işsiz bırakarak sosyal eşitsizliği artırabilir. Bu sadece teknik standartların değil, aynı zamanda küresel düzenleyici çerçevelerin de revizyonunu gerektirir.
Bilim adamları ısrar ediyor: AI sistemlerinin geliştirilmesine, algoritmaların çözülmesi, güvenlik protokollerinin birleştirilmesi ve uluslararası yasal normların oluşturulması da dahil olmak üzere risk yönetimi alanındaki çalışmalar eşlik etmelidir.
Araştırmacıların vurguladığı gibi, kapalı laboratuvar koşullarındaki başarılar gerçek dünyada istikrarı garanti etmez. Otonom havacılık sistemlerinin bir örneği sorunu göstermektedir: güvenilirliğin% 99,9’u bile her hatanın bir felakete yol açtığı endüstri için yeterli değildir.
Yazarlar, “Bir kişi olmadan karar veren otonom makinelerin dönemi zaten geldi” diyor. “Sadece algoritmaların artışlarına değil, aynı zamanda sosyoteknik sistemlere entegrasyonlarına temel olarak yeni yaklaşımlara ihtiyacımız var.” Son vurgu, disiplinlerarası diyaloga ihtiyaç vardır: mühendisler, avukatlar, ekonomistler ve filozoflar, AI potansiyelinin kullanımına izin verecek ve insanlık için riskleri en aza indirecek çerçeveler geliştirmelidir.
