Bu haftanın Salı günü sinirbilimci, kurucu ve yazar Gary Marcus, OpenAI CEO’su Sam Altman ile IBM’in baş gizlilik güven görevlisi Christina Montgomery arasında oturdu ve üçü de Senato Yargı Komitesi önünde üç saatten fazla ifade verdi. Senatörler büyük ölçüde Altman’a odaklanmıştı çünkü şu anda gezegendeki en güçlü şirketlerden birini yönetiyor ve Altman onlardan defalarca işini düzenlemeye yardım etmelerini istedi. (Çoğu CEO, Kongre’ye sektörlerini rahat bırakması için yalvarır.)
Marcus bir süredir akademik çevrelerde tanınıyor olsa da, son zamanlarda yaptığı haber bülteni sayesinde yıldızı yükselişe geçti (“Güvenebileceğimiz Yapay Zekaya Giden Yol“), bir podcast (“İnsanlar ve Makineler“) ve yapay zekanın kontrolsüz yükselişiyle ilgili yaşadığı huzursuzluk. Örneğin, bu haftaki duruşmaya ek olarak, bu ay Bloomberg televizyonuna çıktı ve New York Times’ta yer aldı. Pazar Dergisi Ve kablolu diğer yerler arasında.
Çünkü bu haftaki duruşma bazı açılardan gerçekten tarihi görünüyordu – Senatör Josh Hawley yapay zekayı “insanlık tarihindeki en teknolojik yeniliklerden biri” olarak nitelendirirken, Senatör John Kennedy Altman’dan o kadar etkilenmişti ki Altman’dan kendi düzenleyicilerini seçmesini istedi – biz de Deneyimi tartışmak ve bundan sonra ne olacağı hakkında ne bildiğini görmek için Marcus’la da konuş.
Hala Washington’da mısın?
Hala Washington’dayım. Milletvekilleri ve çalışanları ve diğer çeşitli ilginç insanlarla görüşüyorum ve bahsettiğim türden şeyleri gerçeğe dönüştürüp dönüştüremeyeceğimizi görmeye çalışıyorum.
NYU’da öğretmenlik yaptınız. Aşağıdakiler de dahil olmak üzere birkaç yapay zeka şirketinin kurucu ortağı oldunuz: bir ünlü robotist Rodney Brooks ile. Brooks’la 2017’de sahnede röportaj yaptım ve Elon Musk’ın yapay zekayı gerçekten anlamadığını düşündüğünü ve yapay zekanın varoluşsal bir tehdit olduğu konusunda Musk’ın yanıldığını düşündüğünü söyledi.
Sanırım Rod ve ben, mevcut yapay zekanın yapay genel zeka gibi bir şey olup olmadığı konusunda şüphelerimizi paylaşıyoruz. Ayırmanız gereken birkaç konu var. Biri: AGI’ye yakın mıyız ve diğeri, sahip olduğumuz mevcut yapay zeka ne kadar tehlikeli? Sahip olduğumuz mevcut yapay zekanın varoluşsal bir tehdit olduğunu düşünmüyorum ama tehlikeli. Birçok yönden, bunun demokrasi için bir tehdit olduğunu düşünüyorum. Bu insanlık için bir tehdit değil. Bütün insanları yok etmeyecek. Ama oldukça ciddi bir risk.
Çok uzun zaman önce, tartışıyordunuz Yann LeCun, Meta’nın baş yapay zeka bilimcisi. ne olduğundan emin değilim o kanat hakkındaydı – derin öğrenme sinir ağlarının gerçek önemi?
Yani LeCun ve ben aslında birçok şeyi tartıştık. uzun yıllar. 2017’de filozof David Chalmers’ın moderatörlüğünü yaptığı halka açık bir tartışmamız vardı. [LeCun] o zamandan beri başka bir gerçek tartışma yapmak ve bunu yapmayacak. Twitter’da bana alt tweet atmayı ve bunun gibi şeyler yapmayı tercih ediyor, bence bu en yetişkin konuşma şekli değil, ama o önemli bir figür olduğu için cevap veriyorum.
Anlaşamadığımızı düşündüğüm bir şey [currently] LeCun bunları kullanmanın iyi olduğunu düşünüyor. [large language models] ve burada olası bir zarar olmadığını. Bence bu konuda çok yanılıyor. Kötü aktörler tarafından kasıtlı olarak üretilen yanlış bilgilendirmeden, kazara yanlış bilgilendirmeye kadar demokrasiye yönelik potansiyel tehditler var – işlemediği halde cinsel tacizle suçlanan hukuk profesörü gibi – [to the ability to] Halkın hakkında hiçbir şey bilmediği eğitim verilerine dayanarak insanların siyasi inançlarını ustaca şekillendirir. Sosyal medya gibi ama daha da sinsi. Bu araçları, diğer insanları manipüle etmek ve muhtemelen onları istediğiniz herhangi bir şey için kandırmak için de kullanabilirsiniz. Onları büyük ölçüde ölçeklendirebilirsiniz. Burada kesinlikle riskler var.
Salı günü Sam Altman hakkında ilginç bir şey söyledin, senatörlere en büyük korkusunun ne olduğunu onlara söylemediğini söyledin, buna “germane” dedin ve onları ona yönlendirdin. Hala söylemediği şey, birkaç yıl önce onunla en önemli endişe olarak konuştuğum otonom silahlarla ilgili herhangi bir şey. Silahların gelmemesi ilginç geldi bana.
Çok yol katettik ama ulaşamadığımız çok şey var, bunlara gerçekten önemli olan yaptırımlar, ulusal güvenlik ve otonom silahlar ve bunun gibi şeyler dahildir. birkaç tane daha olacak [these].
Kapalı sistemlere karşı açık kaynaktan söz edildi mi?
Neredeyse gündeme gelmedi. Açıkçası gerçekten karmaşık ve ilginç bir soru. Doğru cevabın ne olduğu gerçekten net değil. İnsanların bağımsız bilim yapmasını istiyorsunuz. Belki çok geniş ölçekte konuşlandırılacak şeyler etrafında bir tür lisanslama yapmak isteyebilirsiniz, ancak bunlar güvenlik riskleri de dahil olmak üzere belirli riskler taşır. Her kötü oyuncunun keyfi olarak güçlü araçlara erişmesini istediğimiz açık değil. Bu nedenle, lehte ve aleyhte argümanlar var ve muhtemelen doğru cevap, adil bir derecede açık kaynağa izin vermek, ancak aynı zamanda nelerin yapılabileceği ve nasıl konuşlandırılabileceği konusunda bazı sınırlamalara sahip olmak olacaktır.
Meta’nın dil modeline izin verme stratejisi hakkında herhangi bir özel düşünce dünyaya insanların kurcalaması için mi?
Bunun harika olduğunu düşünmüyorum [Meta’s AI technology] LLaMA dürüst olmak gerekirse orada. Bence bu biraz dikkatsizlikti. Ve bilirsiniz, bu kelimenin tam anlamıyla şişeden çıkan cinlerden biridir. Yasal altyapı yoktu; ne yaptıklarını kimseye danışmadılar, bilmiyorum. Belki yaptılar, ancak bununla veya örneğin Bing ile karar verme süreci temelde adil: bir şirket bunu yapacağımıza karar veriyor.
Ancak şirketlerin karar verdiği bazı şeyler yakın gelecekte veya uzun vadede zarar verebilir. Bu yüzden hükümetlerin ve bilim adamlarının orada neyin olacağına karar vermede giderek daha fazla rolü olması gerektiğini düşünüyorum. [through a kind of] Yapay zeka için FDA, yaygın dağıtım yapmak istiyorsanız, önce bir deneme yaparsınız. Maliyet avantajlarından bahsediyorsunuz. Başka bir deneme yaparsın. Ve nihayetinde, eğer faydaların risklerden daha ağır bastığından eminsek, [you do the] geniş ölçekte yayınlayın. Ancak şu anda, herhangi bir şirket herhangi bir zamanda 100 milyon müşteriye bir şey dağıtmaya karar verebilir ve bunu herhangi bir hükümet veya bilimsel denetim olmaksızın yaptırabilir. Bazı tarafsız yetkililerin girebileceği bir sisteme sahip olmalısınız.
Bu tarafsız otoriteler nereden geliyor? Bu işlerin nasıl yürüdüğünü bilen herkes zaten bir şirkette çalışmıyor mu?
Değilim. [Canadian computer scientist] Yoshua Bengio değil. Bu şirketler için çalışmayan birçok bilim insanı var. Bu denetçilerden nasıl yeterince yararlanılacağı ve onları bunu yapmaları için nasıl teşvik edileceği gerçek bir endişe. Ancak burada bazı konularda uzmanlığa sahip 100.000 bilgisayar bilimcisi var. Hepsi Google veya Microsoft için sözleşmeli olarak çalışmıyor.
Bu AI ajansında rol oynamak ister miydiniz?
İlgileniyorum, inşa ettiğimiz her şeyin küresel ve tarafsız, muhtemelen kar amacı gütmeyen olması gerektiğini hissediyorum ve burada paylaşmak ve bizi iyi bir yere götürmek istediğim iyi, tarafsız bir sesim olduğunu düşünüyorum.
Senato Yargı Komitesi’nin önünde oturmak nasıl bir duyguydu? Ve tekrar davet edileceğini düşünüyor musun?
Tekrar davet edilseydim şok olmazdım ama hiçbir fikrim yok. Bundan gerçekten derinden etkilendim ve o odada olmaktan gerçekten derinden etkilendim. Sanırım televizyondakinden biraz daha küçük. Ama sanki herkes ABD, insanlık için elinden gelenin en iyisini yapmak için oradaymış gibi hissettirdi. Herkes anın ağırlığını biliyordu ve her halükarda senatörler en iyi oyunlarını ortaya koydular. Orada olmamızın bir nedeni olduğunu biliyorduk ve elimizden gelenin en iyisini yaptık.