Son birkaç ayda, yapay zeka (AI), sohbet robotları ve otomatik görüntü oluşturma programları gibi üretken AI tabanlı araçların yaygın olarak benimsenmesinin bir sonucu olarak küresel sohbete girdi. Tanınmış AI bilim adamları ve teknoloji uzmanları, varsayımsal varoluşsal riskler bu gelişmelerden kaynaklanmaktadır.
Onlarca yıldır AI’da çalışmış biri olarak, popülaritedeki bu artış ve ardından gelen sansasyonellik bizi şaşırttı. Bu makaleyle amacımız, karşı koymak değil, orantısız bir şekilde spekülatif AI ile ilgili varoluşsal tehdit korkularının hakim olduğu görünen kamuoyu algısını dengelemek.
Daha egzotik riskler hakkında kimsenin endişelenmemesi gerektiğini söylemek bize düşmez. üyeleri olarak Öğrenme ve Akıllı Sistemler için Avrupa Laboratuvarı (ELLIS), makine öğrenimine odaklanan araştırma bağlantılı bir kuruluş olarak, özellikle teknoloji şirketlerinden gelen girdilerle düzenleyici eylemler düşünen devlet kuruluşları bağlamında, bu riskleri bir perspektife koymanın bizim yerimiz olduğunu düşünüyoruz.
AI nedir?
AI, bilgisayar bilimi veya mühendisliği içinde şekillenen bir disiplindir. 1950 lerde. Amacı, insan zekasını referans alarak akıllı hesaplama sistemleri oluşturmaktır. İnsan zekasının karmaşık ve çeşitli olması gibi, yapay zeka içinde de algılamadan akıl yürütmeye, planlamaya ve karar vermeye kadar insan zekasının çeşitli yönlerini taklit etmeyi amaçlayan birçok alan vardır.
Yetkinlik seviyesine bağlı olarak, AI sistemleri üç seviyeye ayrılabilir:
- Dar veya zayıf yapay zeka, günümüzde genellikle insanlardan daha üstün bir performans düzeyiyle belirli görevleri yerine getirebilen veya belirli sorunları çözebilen yapay zeka sistemlerini ifade eder. Bugün tüm yapay zeka sistemleri dar yapay zekadır. Örnekler, aşağıdakiler gibi sohbet robotlarını içerir: sohbetGPTSiri ve Alexa gibi sesli asistanlar, görüntü tanıma sistemleri ve öneri algoritmaları.
- Genel veya güçlü yapay zeka, çok çeşitli görevlerde bilgiyi anlama, öğrenme ve uygulama yeteneği dahil olmak üzere insanlarınkine benzer bir zeka düzeyi sergileyen ve aşağıdaki gibi kavramları içeren yapay zeka sistemlerini ifade eder. bilinç. Genel AI büyük ölçüde varsayımsaldır ve bugüne kadar elde edilmemiştir.
- Süper AI, tüm görevlerde insan zekasından üstün bir zekaya sahip yapay zeka sistemlerini ifade eder. Tanım olarak, bu tür bir zekayı, bir karıncanın bizim zekamızı anlayamadığı gibi anlayamayız. Süper AI, genel AI’dan bile daha spekülatif bir kavramdır.
AI, eğitimden ulaşıma, sağlık hizmetlerine, hukuka veya üretime kadar her alana uygulanabilir. Böylece, toplumun tüm yönlerini derinden değiştiriyor. “Dar yapay zeka” biçiminde bile, sürdürülebilir ekonomik büyüme sağlamak ve bize yardımcı olmak için önemli bir potansiyele sahiptir. en acil zorlukların üstesinden gelin 21. yüzyılın iklim değişikliği, salgın hastalıklar ve eşitsizlik gibi.
Günümüzün yapay zeka sistemlerinin getirdiği zorluklar
Son on yılda yapay zeka tabanlı karar verme sistemlerinin sosyal medyadan işgücü piyasasına kadar çok çeşitli alanlarda benimsenmesi, anlaşılması ve ele alınması gereken önemli toplumsal riskler ve zorluklar da doğurmaktadır.
Son zamanlarda son derece yetenekli, üretken, önceden eğitilmiş trafo (GPT) modellerinin ortaya çıkışı, mevcut zorlukların çoğunu daha da kötüleştirirken, dikkatli bir ilgiyi hak eden yenilerini de yaratıyor. Bu araçların dünya çapında yüz milyonlarca insan tarafından benimsenmesindeki benzeri görülmemiş ölçek ve hız, toplumsal ve düzenleyici sistemlerimize daha fazla baskı yapıyor.
Önceliğimiz olması gereken kritik öneme sahip bazı zorluklar var:
- bu AI algoritmaları tarafından insan davranışının manipülasyonu yanlış bilgilerin yayılması, kamuoyu oluşumu ve demokratik süreçlerin sonuçları gibi potansiyel olarak yıkıcı sosyal sonuçları olan.
- algoritmik önyargılar ve ayrımcılık bu sadece klişeleri, ayrımcılık kalıplarını ve hatta baskıyı sürdürmekle kalmayıp şiddetlendiriyor.
- Her iki modelde ve kullanımlarında şeffaflık eksikliği.
- Gizliliğin ihlali ve büyük miktarda eğitim verisinin, yaratıcılarının izni veya tazminatı olmadan kullanılması.
- bu işçi sömürüsü çoğu düşük maaşlı gelişmekte olan ülkelerde bulunan AI sistemlerini açıklama, eğitim ve düzeltme.
- bu büyük karbon ayak izi Bu AI sistemlerini oluşturmak için gereken büyük veri merkezleri ve sinir ağları.
- Gerçek dünyaya karşılık gelmeden inandırıcı içerik (resimler, metinler, sesler, videolar…) icat eden üretici yapay zeka sistemlerinde doğruluk eksikliği.
- Hata yapabilen ve aldanabilen bu büyük modellerin kırılganlığı.
- İşlerin ve mesleklerin yerinden edilmesi.
- Gücün, günümüzün yapay zeka sistemlerini kontrol edenlerden oluşan bir oligopolün elinde yoğunlaşması.
AI gerçekten insanlık için varoluşsal bir risk mi?
Ne yazık ki, bu somut risklere odaklanmak yerine, kamuya açık konuşma – en önemlisi son açık mektuplar – esas olarak yapay zekanın varsayımsal varoluşsal risklerine odaklandı.
Varoluşsal risk, sonuçları insan uygarlığına geri dönülemez şekilde zarar verebilecek veya yok edebilecek ve dolayısıyla türümüzün yok olmasına yol açabilecek, insanlığın devam eden varlığını tehdit eden potansiyel bir olay veya senaryoyu ifade eder. Küresel bir felaket olayı (bir asteroit çarpması veya bir salgın gibi), yaşanabilir bir gezegenin yok olması (iklim değişikliği, ormansızlaşma veya su ve temiz hava gibi kritik kaynakların tükenmesi nedeniyle) veya dünya çapında bir nükleer savaş, varoluşsal risklere örnektir. .
Dünyamız kesinlikle bir dizi riskle karşı karşıyadır ve gelecekteki gelişmeleri tahmin etmek zordur. Bu belirsizlik karşısında, çabalarımıza öncelik vermemiz gerekiyor. Bu nedenle, kontrolsüz bir süper zekanın uzak olasılığının bağlam içinde ele alınması gerekir ve bu, dünyadaki 3,6 milyar insanın bağlamını içerir. iklim değişikliği nedeniyle oldukça savunmasız; günde 1 ABD dolarından daha az parayla yaşayan yaklaşık 1 milyar insan; veya 2 milyar insan çatışmadan etkilenen. Bunlar, bugün hayatları ciddi tehlikede olan gerçek insanlar, kesinlikle süper yapay zekanın neden olmadığı bir tehlike.
Varsayımsal bir varoluşsal riske odaklanmak, dikkatimizi AI’nın bugün ortaya koyduğu belgelenmiş ciddi zorluklardan saptırır, daha geniş araştırma topluluğunun farklı bakış açılarını kapsamaz ve popülasyonda gereksiz paniğe katkıda bulunur.
Toplum, bu sorunların gerekli çeşitliliğini, karmaşıklığını ve nüansını dahil etmekten ve günümüzün AI zorluklarını ele almak için somut ve koordineli, eyleme geçirilebilir çözümler tasarlamaktan kesinlikle fayda sağlayacaktır. düzenleme. Bu zorlukların üstesinden gelmek, gerekli teknik ve yönetişim uzmanlığı ile birlikte toplumun en çok etkilenen sektörlerinin işbirliğini ve katılımını gerektirir. Şimdi hırs ve bilgelikle ve işbirliği içinde hareket etme zamanı.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Bu makalenin yazarları, Avrupa Öğrenme ve Akıllı Sistemler Laboratuvarı (ELLIS) Kurulunun üyeleridir.
Nuria OliverELLIS Alicante Temel Direktörü ve Alicante Üniversitesi fahri profesörü, Alicante Üniversitesi; Bernhard Schölkopf, Max Planck Akıllı Sistemler Enstitüsü; Floransa d’Alché-BucProfesör, Télécom Paris – Institut Mines-Télécom; Nada LavracPhD, Bilgi Teknolojileri Departmanında Araştırma Danışmanı, Jožef Stefan Enstitüsü ve Profesör, Nova Gorica Üniversitesi; Nicolo Cesa-BianchiProfesör, Milano Üniversitesi; Sepp Hochreiter, Johannes Kepler Üniversitesi LinzVe Serge BelongieProfesör, Kopenhag Üniversitesi
Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.