- ‘AI Godfather’ Yoshua Bengio, AI yarışının güvenlik üzerindeki hıza öncelik verdiği konusunda uyarıyor
- Bu öngörülemeyen ve tehlikeli sonuçları riske atar
- Otonom sistemlerin kontrol edilmesi zorlaşmadan önce küresel işbirliğini AI düzenlemelerini uygulamaya çağırıyor
‘AI vaftiz babası’ Yoshua Bengio, chatbots’tan çizgi film karakterlerini taklit eden bilimsel araştırma asistanlarına kadar bugün her türlü AI araçını çalıştıran sinir ağlarının temellerinin oluşturulmasına yardımcı oldu. Şimdi, bir Sky News röportajında açıkladığı gibi AI geliştiricileri için acil bir uyarısı var. Her zaman daha güçlü AI sistemleri geliştirme yarışı, onun görüşüne göre çok pervasız olan bir hızda artıyor.
Ve bu sadece hangi şirketin en iyi sohbet botunu oluşturduğu veya en çok finansmanı kimin aldığını değil. Bengio, gelişmiş AI’ya yönelik hızlı, düzensiz itmenin, güvenlik en büyük öncelik olarak ele alınmazsa felaket sonuçları olabileceğine inanmaktadır.
Bengio, geliştiricilerin birbirlerine karşı yarışmasını, özensizleştiğini veya tehlikeli kısayolları izlemeyi izledi. Hız, milyarlarca değerinde yeni bir ürün türünde çığır açma ve rakibe yakalanma farkını yaratsa da, topluma değmeyebilir.
Bu baskı, sadece Batılı şirketlerin ve hükümetlerin dikkatini çeken Deepseek gibi Çin AI firmalarının yükselişi olan AI geliştiricileri için yoğunlaştı. Büyük teknoloji firmaları yavaşlamak ve riskleri dikkatlice düşünmek yerine, AI gelişimlerini üstünlük için bir sprintte hızlandırıyorlar. Bengio, acele dağıtımlara, yetersiz güvenlik önlemlerine ve henüz tam olarak anlamadığımız şekillerde davranan sistemlere yol açacaktır.
Bengio, daha güçlü AI gözetimine duyulan ihtiyaç konusunda uyarı yaptığını açıkladı, ancak son olaylar mesajını daha da acil hissettirdi. Mevcut an, anlamlı düzenlemeler ve güvenlik protokolleri uyguladığımız ya da AI gelişiminin öngörülemeyen bir şeye spiraline izin verme riskini uyguladığımız bir “dönüm noktası” dır.
Sonuçta, giderek daha fazla AI sistemi sadece bilgileri işlemekle kalmaz, aynı zamanda otonom kararlar verebilir. Bu AI ajanları, kullanıcı girdilerine yanıt vermek yerine kendi başlarına hareket edebilir. Tam olarak Bengio’nun en tehlikeli yol olarak gördüğü şey. Yeterli bilgi işlem gücü ile, insanlar dizginleri geri almak istiyorsa, strateji oluşturabilen, uyarlayabilecek ve bağımsız eylemler yapabilen bir AI hızla kontrol edilmesi zorlaşabilir.
AI devralma
Sorun sadece teorik değil. Zaten, AI modelleri finansal işlemler yapıyor, lojistiği yönetiyor ve hatta minimum insan gözetimi ile yazılım yazıyor ve dağıtıyor. Bengio, çok daha karmaşık, potansiyel olarak öngörülemeyen AI davranışından sadece birkaç adım uzakta olduğumuzu uyarıyor. Böyle bir sistem katı önlemler olmadan dağıtılırsa, sonuçlar hizmetteki sinir bozucu hıçkırıklardan tam güvenlik ve ekonomik krizlere kadar değişebilir.
Bengio, AI gelişimine durmayı çağırmıyor. Tıbbi ve çevresel araştırma gibi şeyler için sorumlu bir şekilde kullanıldığında AI’nın yetenekleri hakkında iyimser olduğunu açıkça belirtti. Sadece AI teknolojisi üzerinde daha düşünceli ve kasıtlı çalışmalara öncelikli bir kaymaya ihtiyaç duyuyor. Eşsiz perspektifi, AI geliştiricilerinin rakip şirketlerle rekabet etmeden önce etik ve güvenliği koymasını istediğinde biraz ağırlık taşıyabilir. Bu yüzden Paris’te yaklaşan Uluslararası AI Güvenlik Zirvesi gibi etkinliklerde politika tartışmalarına katılıyor.
Ayrıca, düzenlemelerin sistemlerinin sorumluluğunu üstlenmek isteyen şirketler tarafından desteklenmesi gerektiğini düşünüyor. Performans iyileştirmelerinde olduğu kadar güvenlik araştırmalarına yatırım yapmaları gerekiyor, ancak bu dengenin bugünün AI yakın dövüşünde göründüğünü hayal etmek zor. Hızın hakimiyete eşit olduğu bir sektörde, hiçbir şirket frenlere ilk vuran kişi olmak istemez.
Küresel İşbirliği Bengio sahaları hemen görünmeyebilir, ancak AI silah yarışı devam ettikçe, Bengio ve benzer prestij pozisyonlarındaki diğerleri daha acil hale gelir. Sektörün, bir krizin konuyu zorladığı zamandan ziyade riskleri tanıyacağını umuyor. Soru, dünyanın çok geç olmadan dinlemeye hazır olup olmadığıdır.
