22 Mart 2023’te, aralarında Elon Musk ve Apple’ın kurucu ortağı Steve Wozniak’ın da bulunduğu binlerce araştırmacı ve teknoloji lideri bir açık mektup yapay zeka yarışını yavaşlatmaya çağırıyor. Mektup özellikle, laboratuvarların OpenAI’nin GPT-4’ünden daha güçlü teknolojiler için eğitime ara vermesini tavsiye ediyordu. en gelişmiş nesil günümüzün dil üreten AI sistemlerinin en az altı ay boyunca.
alarmın çalması yapay zekanın getirdiği riskler yeni bir şey değil – akademisyenler riskleri hakkında uyarılar yayınladılar süper zeki makineler onlarca yıldır. hakkında hala bir fikir birliği yoktur. yaratma olasılığı yapay genel zekaeşleşen otonom yapay zeka sistemleri veya insanları aşmak en ekonomik açıdan değerli görevlerde. Bununla birlikte, mevcut AI sistemlerinin halihazırda ırksal önyargıdan kaynaklanan pek çok tehlike oluşturduğu açıktır. yüz tanıma teknolojisi Artan yanlış bilgi tehdidi ve kopya çeken öğrenci.
Mektup, endüstri ve politika yapıcıları işbirliği yapmaya çağırırken, şu anda böyle bir duraklamayı zorunlu kılacak bir mekanizma yok. Gibi teknoloji etiğini inceleyen bir filozofAI araştırmasının “Ücretsiz binici sorunu” Bunun, toplumların risklere nasıl tepki vereceğine rehberlik etmesi gerektiğini ve iyi niyetin yeterli olmayacağını savunuyorum.
ücretsiz sürme
Serbest sürüş, filozofların “kolektif eylem sorunları” dediği şeyin ortak bir sonucudur. Bunlar, grup olarak herkesin belirli bir eylemden fayda sağlayacağı, ancak bireysel olarak her üyenin fayda sağlayacağı durumlardır. yapmamanda fayda var.
Bu tür problemler en yaygın olarak kamu malları. Örneğin, bir şehrin sakinlerinin, her birinin vergiler veya ücretler yoluyla küçük bir meblağ ödemesini gerektirecek bir metro sisteminin finanse edilmesinde ortak bir çıkarı olduğunu varsayalım. Herkes faydalanabilir, ancak para biriktirmek ve adil paylarını ödemekten kaçınmak her bireyin çıkarınadır. Ne de olsa, diğer insanların çoğu ödeme yaparsa onlar da metronun keyfini çıkarabilecekler.
Dolayısıyla “bedava yolculuk” sorunu: Bazı kişiler adil paylarına katkıda bulunmayacaklar, ancak yine de metro söz konusu olduğunda kelimenin tam anlamıyla “bedava yolculuk” alacaklar. Her birey ödeme yapmazsa, kimse fayda sağlamaz.
Filozoflar bunu iddia etme eğilimindedirler. “bedavaya binmek” etik dışıdır, ”çünkü bedavacılar, başkalarının adil paylarını ödemelerine karşılık veremezler. Pek çok filozof aynı zamanda beleşçilerin sorumluluklarının bir parçası olarak sorumluluklarını yerine getirmediğini iddia eder. toplum sözleşmesi, bir toplumu yöneten toplu olarak üzerinde anlaşmaya varılmış işbirliği ilkeleri. Başka bir deyişle, topluma katkıda bulunan üyeler olma görevlerini yerine getiremezler.
Duraklatmak mı yoksa ilerlemek mi?
Metro gibi, yapay zeka da görevleri insan operatörlerden çok daha verimli bir şekilde tamamlama potansiyeli göz önüne alındığında bir kamu malıdır: hastaları teşhis etmek devralmak için tıbbi verileri analiz ederek orduda riskli işler veya madencilik güvenliğini artırmak.
Ancak hem faydaları hem de tehlikeleri herkesi, hatta kişisel olarak AI kullanmayan insanları etkileyecektir. azaltmak için AI’nın riskleri, sektör araştırmalarının dikkatli, güvenli ve uygun gözetim ve şeffaflıkla yürütülmesi herkesin çıkarınadır. Örneğin, yanlış bilgilendirme ve sahte haberler zaten demokrasiler için ciddi tehditler oluşturuyor, ancak yapay zekanın bunu yapma potansiyeli var. sorunu şiddetlendirmek “sahte haberleri” insanlardan daha hızlı ve etkili bir şekilde yayarak.
Bazı teknoloji şirketleri gönüllü olarak deneylerini durdursa bile, diğer şirketler kendi yapay zeka araştırmalarına devam ederek yapay zeka silahlanma yarışında öne geçmelerine olanak tanıyarak parasal çıkarları olacaktır. Dahası, AI deneylerini gönüllü olarak duraklatmak, diğer şirketlerin, toplumun geri kalanıyla birlikte daha güvenli, daha şeffaf AI gelişiminin faydalarından yararlanarak ücretsiz bir sürüş elde etmelerine olanak tanır.
OpenAI CEO’su Sam Altman, şirketin risklerden korkuyor chatbot sistemi ChatGPT tarafından oluşturulmuştur. ABC News ile yaptığı bir röportajda yapay zekanın yanlış bilgi üretme potansiyelinden bahsederek “Burada dikkatli olmalıyız” dedi. “Bence insanlar bundan biraz korktuğumuz için mutlu olmalı.”
5 Nisan 2023’te yayınlanan bir mektupta OpenAI, şirketin güçlü AI sistemlerine inandığını söyledi. düzenlemeye ihtiyaç var Kapsamlı güvenlik değerlendirmeleri sağlamak ve “bu tür bir düzenlemenin alabileceği en iyi biçim konusunda hükümetlerle aktif olarak ilişki kurmak”. Bununla birlikte, OpenAI ile devam ediyor kademeli sunum GPT-4 ve endüstrinin geri kalanı da gelişmiş AI’ları geliştirmeye ve eğitmeye devam ediyor.
Yönetmelik için olgun
onlarca yıl sosyal bilim araştırması kolektif eylem sorunlarına ilişkin olarak, güven ve iyi niyetin yetersiz olduğu durumlarda bedava binicilerden kaçınmak için, düzenleme genellikle tek alternatiftir. Gönüllü uyum, beleş senaryoları yaratan temel faktördür ve hükümet eylemi bazen onu tomurcukta kıstırmanın yoludur.
Daha öte, bu tür düzenlemeler uygulanabilir olmalıdır. Ne de olsa, müstakbel metro yolcularının bir ceza tehdidi olmadıkça ücreti ödemeleri pek mümkün olmayabilir.
Bugün dünyanın en dramatik beleşçi sorunlarından birini ele alalım: iklim değişikliği. Bir gezegen olarak, yaşanabilir bir çevreyi koruma konusunda hepimizin büyük çıkarı var. Bununla birlikte, ücretsiz binicilere izin veren bir sistemde, herhangi bir ülkenin daha çevreci yönergeleri gerçekten takip etmesi için teşvikler zayıftır.
Paris AnlaşmasıŞu anda iklim değişikliği konusunda en kapsayıcı küresel anlaşma olan, gönüllülük esasına dayalıdır ve Birleşmiş Milletler’in bunu uygulamak için başvuracağı bir yol yoktur. Örneğin, Avrupa Birliği ve Çin gönüllü olarak emisyonlarını sınırlasalar bile, ABD ve Hindistan emisyonlarını sürdürürken karbondioksit azaltımını “serbest bırakabilir”.
Küresel meydan okuma
Benzer şekilde, beleşçi sorunu, yapay zeka gelişimini düzenleyen argümanları temel alır. Aslında, iklim değişikliği ne AI’nın ortaya koyduğu riskler ne de sera gazı emisyonları bir programın menşe ülkesiyle sınırlı olmadığından özellikle yakın bir paraleldir.
Dahası, daha gelişmiş yapay zeka geliştirme yarışı uluslararası bir yarıştır. ABD, AI araştırma ve geliştirmeye yönelik federal bir düzenleme getirse bile, Çin ve Japonya serbestçe dolaşabilir ve kendi iç pazarlarına devam edebilirler. AI programları.
AI’nın etkili bir şekilde düzenlenmesi ve uygulanması, tıpkı iklim değişikliğinde olduğu gibi, küresel kolektif eylem ve işbirliğini gerektirecektir. ABD’de, sıkı uygulama düzenleyici gözetim kurulları, muhbir korumaları veya aşırı durumlarda laboratuvar veya araştırma kilitlenmeleri ve cezai suçlamalar yoluyla olsun, federal araştırma gözetimi ve sorumlu geliştirmeyi sağlamak için ağır para cezaları uygulama veya uyumlu olmayan yapay zeka deneylerini kapatma becerisi gerektirecektir.
Bununla birlikte, yaptırım olmadan, ücretsiz sürücüler olacaktır ve ücretsiz sürücüler, AI tehdidinin yakın zamanda ortadan kalkmayacağı anlamına gelir.
Yapay zeka, sohbet robotları ve makine öğreniminin geleceği hakkında daha fazla bilgi edinmek ister misiniz? Kapsamımızın tamamına göz atın yapay zekaveya kılavuzlarımıza göz atın En İyi Ücretsiz AI Sanat Üreticileri Ve OpenAI ChatGPT Hakkında Bildiğimiz Her Şey.
Tim Juvshik, Clemson Üniversitesi’nde misafir yardımcı doçenttir. Bu makale şu adresten yeniden yayınlanmıştır: Konuşma Creative Commons lisansı altında. Okumak orijinal makale.