2023 yılı, teknolojik tekilliğin yılı olacak; yapay zekaların birdenbire özerk olmaya başlayacağı ve insan toplumunu kökten değiştireceği bir yıl olacak. Bilimsel geçmişi olan bilim kurgu yazarı Vernor Vinge’nin 1993 yılında yazdığı bir kitapta ortaya konulan bu öngörünün gerçekleşmesine yalnızca birkaç hafta kaldı. Aslında bir yıl önce halka açık olarak yayınlanan ChatGPT’nin performansına rağmen bundan çok uzağız. Ancak bu korku ve yapay genel zeka gibi farklı varyantları sıklıkla ön plana çıkıyor. Bazen yapay zekanın çok somut tehlikelerini gizleme riskiyle karşı karşıyayız.
Bilimden bilim kurguya, bilime
1-2 Kasım’da Birleşik Krallık, Bletchley Park’ta Alan Turing’in Enigma kodunu kırdığı büyük bir yapay zeka güvenlik zirvesine ev sahipliği yaptı. Toplantının tonu, toplantının başlamasından kısa bir süre önce Başbakan Rishi Sunak tarafından belirlendi. Gazetecilere endişelerini dile getirdi, “ alarma geçmek istemeden “, bu yapay zeka” pandemi veya nükleer savaş gibi ölçekte riskler oluşturabilir “. Birkaç ay önce yayınlanan ve Sam Altman, Bill Gates ve diğer iş liderleri veya yapay zeka dahil çeşitli alanlardaki araştırmacılar gibi teknoloji dünyasının büyük isimleri tarafından imzalanan, Yapay Zeka Güvenliği Merkezi’nin kısa ve öz metnine yakın bir formülasyon.
Bu kıyamet benzeri açıklamalar, açıkça atıfta bulunmaksızın, tekilliğin veya genel yapay zekanın merkezinde yer aldığı çeşitli kavramlara atıfta bulunmaktadır. Yapay zekanın her bakımdan insanı aştığı ve sonunda onu yok ettiği düşüncesi. Bu yorumlar yeni değil. Alan Turing henüz makine öğrenmesinden bahsederken, 1940’ların sonunda ünlü yazar Isaac Asimov zaten kısa öykülerinde robotların özgürleşip özgürleşmeme ihtimalini araştırıyordu. Yapay zekanın kendisi ancak 1955’te resmi olarak doğdu. Sinema, özerkliğe yönelen bu makinelerle doludur. Eğer belirli filmler örneğin Oyapay zekanın barışçıl bir şekilde güçlendirildiğini, bir felaket imajını hayal edin. Terminatör veya bir Matris hakim oldu.
Kredi bilgileri: Daniel Oberhaus / Flickr
Bu teoriler hayal dünyasının çok ötesinde takipçiler buldu ve bulmaya da devam ediyor. 2014 yılında ünlü bilim adamı Stephen Hawking, insanları, gitmeye başladığı tehlikeli yol konusunda uyarmak için kalemini eline aldı. Britanya zirvesinde hazır bulunan Elon Musk, konudan düzenli olarak endişe duyan isimlerden biri. Hatta korkusu, yaptığı birçok yatırımın kaynağında olacaktı. Biyografi yazarı Walter Isaacson, milyarderin yapay zeka girişimi DeepMind’ı ele geçirme girişimlerinin kısmen, yapay zeka fikirleri ona tehlikeli görünen Google’ın Larry Page’ini elinden alma arzusundan kaynaklandığını söylüyor. Neuralink açıkça yapay zeka ile rekabet edebilecek bir insanı şekillendirmeyi hedefliyor. DeepMind’a karşı OpenAI’yi kurdu. Isaacson’un çalışmasında Musk’ın gençlik referansları arasında Asimov’un ilk anılması masum değildir.
Günümüz teknolojileriyle asi yapay zeka gündemde değil
Teknoloji milyarderlerinin, ünlü mühendislerin ve bilim adamlarının korktuğu yapay zekanın güçlendirilmesine ilişkin bu teoriler, aynı ölçüde şüphecilik ve hatta güvensizlik uyandırıyor. Sorbonne Üniversitesi’nden fahri profesör Jean-Gabriel Ganascia, çağrıştırıcı bir başlığa sahip bir makale yazdı: Tekillik efsanesi. Bu yapay zeka araştırmacısı ve etik konularda uzman şunları yazıyor: ” Yapay zeka tekniklerinin mevcut durumundaki hiçbir şey, bilgisayarların yakında insanların yardımı olmadan süresiz olarak gelişebileceklerini, yarışarak bizi aşacak ve kendi özerkliklerini kazanabileceklerini iddia etmemize izin vermiyor. “. Yazar paradigma değişikliğinden rahatsız. 50’li ve 80’li yıllarda bilim kurgu, hikayelerini beslemek için bilimsel teorilerden ilham alırken, bugün bu hikayeler araştırmacıların yansımalarını besliyor.
Jean-Gabriel Ganascia’nın çalışmasının yayınlanmasından bu yana yeni bir teknoloji ön plana çıktı: üretken yapay zeka. Kaygıyı körükleyen popüler bir başarı. Henüz, ” ChatGPT, biz bilim insanları için bir devrim değil. Arkasındaki bilim yeni değil. 10, 15 yıldır kullanılan düşünce çerçevesinin hemen hemen aynısı » dikkat çekti Dijital Yüzyıl Sylvain Petitjean, Dijital Bilimler ve Teknolojiler Ulusal Araştırma Enstitüsü’nün (Inria) başkanının proje yöneticisi, dijital bilimlerde araştırma etiği üzerine düşünmek için ulusal bir organın oluşturulması için. Mevcut teknolojik düzeyde genel bir yapay zekanın insanlığı yok olmaya sürüklediği hipotezine ilişkin şüphelerini paylaşıyor. Inria’daki Yasal ve Etik Risklerin Değerlendirilmesi Operasyon Komitesi’nin eski başkanı araştırmacı şunları üzüntüyle karşılıyor: ” Bu anlatı, büyük teknoloji sanayicileri tarafından taşınan politikacıların ağzına kadar ulaştı “. Görür ” temel bir hata “getirmek” diğer her şeyi unutmak “.
Hayal ürünü bir korkunun ardındaki itici güç olarak alaycılık mı?
Yapay Zeka Güvenlik Zirvesi’ni takip eden gazeteciler, temsil edilen 28 eyaletin tamamının imzaladığı Bletchley Deklarasyonu’yla sonuçlanan zorlu tartışmalara tanıklık etti. İngiliz hükümeti tarafından öne sürülen yapay zekanın varsayılan varoluşsal riskine ek olarak, diğerleri bu teknolojinin çok somut, güncel tehlikelerinden bahsetmek istedi ve başardı.
Amerika Birleşik Devletleri Başkan Yardımcısı Kamala Harris, toplantı öncesinde Rishi Sunak’ın önerdiği ilk çerçeveyle ilgili hayal kırıklığını gizlemedi: ” Açık olalım: harekete geçmemizi gerektiren başka tehditler de var. Halihazırda zarara neden olan ve birçok insan için aynı zamanda varoluşsal görünen tehditler “. Amerikan başkan yardımcısı, yapay zeka tarafından üzerinde oynanmış fotoğraflara, ayrımcı önyargılara ve bunların toplumdaki sonuçlarına veya gerçeklerden daha büyük yanlış bilgilerin yaratılmasına dayanan “intikam pornosu”na atıfta bulundu. Veri gizliliği veya telif hakkı sorununu ekleyebiliriz.
Sylvain Petitjean’a göre yapay zekanın özerkliği yoluyla insanlığı tehdit ettiği soyut senaryosuna odaklanmak büyük gruplar için oyalanma anlamına geliyor. İkincisi aynı zamanda bu alandaki araştırmaları da büyük ölçüde finanse etmektedir. Her şeyden önce, kendilerini felaketi önleyecek teknik becerilere sahip tek kuruluş olarak konumlandırmalarına olanak tanıyor. Bunu yapabilmek için ellerinin serbest olması ve kendi kendini düzenlemesi gerekir. O halde uzaktaki tehditleri sorgulamak, mevcut tehditleri sorgulamaktan kaçınmamızı sağlar. Nihayet, ” bu teknolojilerin doğaya salınma şekli. Bu teknoloji devlerinin bir tür sorumsuzluğu var çünkü güçlüler, çünkü kontrol edilmiyorlar “. OpenAI tarafından başlatılan ve o zamana kadar daha temkinli davranan Google gibilerin takip ettiği üretken yapay zekanın kamusal alanda yükselişi, gerekli güvenlik önlemleri olmadan aceleyle gerçekleştirildi.
Bu nedenle devlet denetimi gerekli görünmektedir. Sorun, Avrupa Birliği AI Yasası’nın da gösterdiği gibi, konuyla ilgili metnin en ileri düzeyde yasama sürecinde düzenlenmesi zaman alıyor. Avrupa Komisyonu tarafından 2021 yılında sunuldu ve benimsenmesi hâlâ zorluklarla karşılaşıyor. Bunun tersine, yapay zeka ile ” Gelişim döngüleri çok kısa olan, inovasyonların ise son derece hızlı döngülere sahip olduğu teknolojiler üzerinde çalışıyoruz. » Sylvain Petitjean’a işaret ediyor. “ Bu arada teknolojileri ve değerleri topluma nasıl yaklaştırırız? İşte burada etik devreye giriyor, bilim ve teknolojinin ilerlemelerini toplumun değerleriyle, temel değerlerle karşılamaya çalışacağız. “.