Dört yapay zeka uzmanı, araştırmaların acilen durdurulmasını talep eden – Elon Musk tarafından ortak imzalanan – açık bir mektupta çalışmalarından alıntı yapıldıktan sonra endişelerini dile getirdi.
22 Mart tarihli ve Cuma gününe kadar 1.800’den fazla imza toplayan mektup, Microsoft destekli OpenAI’nin insan benzeri konuşmalar yapabilen yeni GPT-4’ünden “daha güçlü” sistemlerin geliştirilmesinde altı aylık bir devre kesici çağrısında bulundu. , şarkılar besteleyin ve uzun belgeleri özetleyin.
GPT-4’ün öncülü ChatGPT’nin geçen yıl piyasaya sürülmesinden bu yana, rakip şirketler benzer ürünleri piyasaya sürmek için acele ettiler.
Açık mektupta, üniversite akademisyenlerinin yanı sıra OpenAI, Google ve yan kuruluşu DeepMind’ın mevcut ve eski çalışanları da dahil olmak üzere uzmanların 12 araştırmasına atıfta bulunarak, “insan-rekabetçi zekaya” sahip yapay zeka sistemlerinin insanlık için büyük riskler oluşturduğu belirtiliyor.
O zamandan beri ABD ve AB’deki sivil toplum grupları, milletvekillerine OpenAI araştırmasını dizginlemeleri için baskı yaptı. OpenAI, yorum taleplerine hemen yanıt vermedi.
Eleştirmenler, esas olarak Musk Vakfı tarafından finanse edilen mektubun arkasındaki kuruluş olan Future of Life Institute’u (FLI), makinelere programlanan ırkçı veya cinsiyetçi önyargılar gibi AI ile ilgili daha acil endişeler yerine hayali kıyamet senaryolarına öncelik vermekle suçladı.
Alıntı yapılan araştırmalar arasında, daha önce Google’da etik yapay zeka araştırmasını denetleyen Margaret Mitchell’in ortak yazarlığını üstlendiği tanınmış bir makale olan “On the Dangers of Stokastik Papağanlar” da vardı.
Şu anda AI firması Hugging Face’de baş etik bilimcisi olan Mitchell, mektubu eleştirerek Reuters’e neyin “GPT4’ten daha güçlü” sayıldığının belirsiz olduğunu söyledi.
“Mektup, pek çok şüpheli fikri veriliymiş gibi ele alarak, bir dizi önceliği ve FLI destekçilerine fayda sağlayan yapay zeka hakkında bir anlatıyı öne sürüyor” dedi. “Şu anda aktif zararları görmezden gelmek, bazılarımızın sahip olmadığı bir ayrıcalık.”
Ortak yazarları Timnit Gebru ve Emily M. Bender, Twitter’daki mektubu eleştirdi ve ikincisi, bazı iddialarını “akılsız” olarak damgaladı.
FLI başkanı Max Tegmark, Reuters’e kampanyanın OpenAI’nin kurumsal avantajını engelleme girişimi olmadığını söyledi.
“Oldukça komik. İnsanların ‘Elon Musk rekabeti yavaşlatmaya çalışıyor’ dediğini gördüm.” “Bu bir şirketle ilgili değil.”
Şimdi Riskler
Connecticut Üniversitesi’nde yardımcı doçent olan Shiri Dori-Hacohen de mektupta çalışmalarının belirtilmesine itiraz etti. Geçen yıl, AI’nın yaygın kullanımının zaten ciddi riskler oluşturduğunu savunan bir araştırma makalesinin ortak yazarlığını yaptı.
Araştırması, AI sistemlerinin günümüzdeki kullanımının iklim değişikliği, nükleer savaş ve diğer varoluşsal tehditlerle ilgili karar vermeyi etkileyebileceğini savundu.
Reuters’e şunları söyledi: “Yapay zekanın bu riskleri şiddetlendirmek için insan düzeyinde zekaya ulaşmasına gerek yok.”
“Gerçekten, gerçekten önemli olan, ancak aynı türden Hollywood düzeyinde ilgi görmeyen var olmayan riskler var.”
Eleştiri hakkında yorum yapması istenen FLI’den Tegmark, AI’nın hem kısa vadeli hem de uzun vadeli risklerinin ciddiye alınması gerektiğini söyledi.
Reuters’e “Birinden alıntı yaparsak, bu sadece onların o cümleyi desteklediğini iddia ettiğimiz anlamına gelir. Bu onların mektubu onayladıkları veya düşündükleri her şeyi onayladığımız anlamına gelmez” dedi.
Mektupta adı geçen California merkezli Yapay Zeka Güvenliği Merkezi’nin direktörü Dan Hendrycks, Reuters’e olası görünmese de yıkıcı sonuçları olabilecek siyah kuğu olaylarını dikkate almanın mantıklı olduğunu söyleyerek mektubun içeriğinin arkasında durdu.
Açık mektup ayrıca, üretken AI araçlarının interneti “propaganda ve gerçek dışı” ile doldurmak için kullanılabileceği konusunda uyardı.
Sivil toplum grubu Common Cause ve diğerleri tarafından belgelenen, Dori-Hacohen, Musk’ın platformu satın almasının ardından Twitter’da yanlış bilgilendirmede bildirilen bir artışa atıfta bulunarak, anlaşmayı imzalamasının “oldukça zengin” olduğunu söyledi.
Twitter yakında araştırma verilerine erişim için yeni bir ücret yapısı başlatacak ve bu da konuyla ilgili araştırmaları potansiyel olarak engelliyor.
Dori-Hacohen, “Bu, laboratuvarımın çalışmasını doğrudan etkiledi ve yanlış ve dezenformasyon üzerine çalışan diğerleri tarafından yapıldı.” Dedi. “Bir elimiz arkadan bağlı olarak çalışıyoruz”
Musk ve Twitter, yorum taleplerine hemen yanıt vermedi.
© Thomson Reuters 2023