Teknoloji uzmanı ve araştırmacı aviv ovadya üretken yapay zekanın yönetilebileceğinden emin değil, ancak onu kontrol altında tutmanın en makul yolunun, yapay zekadan etkilenecek olanlara onu dizginleme yollarına toplu olarak karar vermeleri için emanet etmek olabileceğini düşünüyor.
Bu sen demek; benim demek Bu, büyük birey ağlarının, küçük bir grup bireyin tek başına yapabileceğinden (örneğin Washington’da dahil) sorunları daha hızlı ve daha adil bir şekilde çözme gücüdür. Temelde kalabalıkların bilgeliğine dayanıyor ve bilimsel araştırma, iş dünyası, politika ve sosyal hareketler dahil olmak üzere birçok alanda oluyor.
Örneğin, Tayvan’da, 2015 yılında sivil fikirli bilgisayar korsanları, “öncelikle dijital ekonomiyle ilgili sorunlara yönelik politika çözümlerini tartışmak üzere kamu, özel ve sosyal sektörlerden temsilcileri bir araya getiren” bir platform – “sanal Tayvan” oluşturdu. açıkladı 2019’da New York Times’ta Tayvan’ın dijital bakanı Audrey Tang tarafından. O zamandan beri, bilindiği şekliyle vTaiwan, “çevrimiçi tartışma ve paydaşlarla yüz yüze görüşmelerin bir karışımına dayanarak” düzinelerce sorunu ele aldı.
Benzer bir girişim, Oregon Vatandaş Girişimi İncelemesi2011 yılında yasayla imzalanan ve vatandaş odaklı bir “müzakere süreci” aracılığıyla eyaletin oy kullanan nüfusunu oy pusulası önlemleri hakkında bilgilendiren. Tüm Oregon seçmenini temsil eden yaklaşık 20 ila 25 vatandaş, bir girişimin esasını tartışmak üzere bir araya getirilir; daha sonra toplu olarak, seçim günlerinde daha bilinçli kararlar verebilmeleri için eyaletin diğer seçmenlerine gönderilen bu girişim hakkında bir bildiri yazarlar.
Sözde müzakere süreçleri, diğer yerlerin yanı sıra Avustralya (su politikası), Kanada (seçim reformu), Şili (emeklilik ve sağlık hizmetleri) ve Arjantin’de (konut, arazi mülkiyeti) sorunların ele alınmasına da başarıyla yardımcı oldu.
Harvard’ın Berkman Klein Merkezi’ne bağlı olan ve çalışmaları giderek yapay zekanın toplum ve demokrasi üzerindeki etkilerine odaklanan Ovadya, yapay zeka ile ilgili olarak “Bunun çalışmasının önünde engeller var” diyor. “Ama ampirik olarak, bu, dünyadaki her kıtada, her ölçekte yapıldı” ve “bu şeylerden bazılarını ne kadar hızlı yerine oturtursak o kadar iyi” diyor.
Yapay zeka için kabul edilebilir yönergeler konusunda geniş insan kesimlerinin karar vermesine izin vermek bazılarına tuhaf gelebilir, ancak teknoloji uzmanları bile bunun çözümün bir parçası olduğunu düşünüyor. Önde gelen yapay zeka girişimi OpenAI’nin baş teknoloji sorumlusu Mira Murati, zamanı söyler dergisi yeni bir röportajında, “[W[e’re a small group of people and we need a ton more input in this system and a lot more input that goes beyond the technologies— definitely regulators and governments and everyone else.”
Asked if Murati fears that government involvement can slow innovation or whether she thinks it’s too early for policymakers and regulators to get involved, she tells the outlet, “It’s not too early. It’s very important for everyone to start getting involved given the impact these technologies are going to have.”
In the current regulatory vacuum, OpenAI has taken a self-governing approach for now, instituting guidelines for the safe use of its tech and pushing out new iterations in dribs and drabs — sometimes to the frustration of the wider public.
The European Union has meanwhile been drafting a regulatory framework — AI Act — that’s making its way through the European Parliament and aims to become a global standard. The law would assign applications of AI to three risk categories: applications and systems that create an “unacceptable risk”; “high-risk applications,” such as a “CV-scanning tool that ranks job applicants” that would be subject to specific legal requirements; and applications not explicitly banned or listed as high-risk that would largely be left unregulated.
The U.S. Department of Commerce has also drafted a voluntary framework meant as guidance for companies, but there remains no regulation– zilcho — when it’s sorely needed. (In addition to OpenAI, tech behemoths like Microsoft and Google — despite being burned by earlier releases of their own AI that backfired — are very publicly racing again to roll out AI-infused products and applications, lest they be left behind.)
A kind of World Wide Web consortium, an international organization created in 1994 to set standards for the World Wide Web, would seemingly make sense. Indeed, in that Time interview, Murati observes that “different voices, like philosophers, social scientists, artists, and people from the humanities” should be brought together to answer the many “ethical and philosophical questions that we need to consider.”
Maybe the industry starts there, and so-called collective intelligence fills in many of the gaps between the broad brush strokes.
Maybe some new tools help toward that end. Open AI CEO Sam Altman is also a cofounder, for example, of a retina-scanning company in Berlin called WorldCoin that wants to make it easy to authenticate someone’s identity easily. Questions have been raised about the privacy and security implications of WorldCoin’s biometric approach, but its potential applications include distributing a global universal basic income, as well as empowering new forms of digital democracy.
Either way, Ovadya thinks that turning to deliberative processes involving wide swaths of people from around the world is the way to create boundaries around AI while also giving the industry’s players more credibility.
“OpenAI is getting some flack right now from everyone,” including over its perceived liberal bias, says Ovadya. “It would be helpful [for the company] gelecek politikalarını nasıl oluşturduğuna dair gerçekten somut bir cevaba sahip olmak”.
Ovadya benzer şekilde, CEO’su Emad Mostaque’nin Stability’nin OpenAI’den daha demokratik olduğunu defalarca öne sürdüğü açık kaynaklı yapay zeka şirketi Stability.AI’ye işaret ediyor, çünkü her yerde mevcut, OpenAI ise yalnızca ülkeler şu anda “güvenli erişim” sağlayabileceği yer.
Ovadya, “İstikrarlı Emad, ‘yapay zekayı demokratikleştirdiğini’ söylüyor. Kuyu, İnsanların gerçekte ne istediğini anlamak için gerçekten demokratik süreçleri kullanmak hoş olmaz mıydı?
‘Biz insanlar’ yapay zekayı kontrol altında tutabilir miyiz? Connie Loizos tarafından orijinal olarak TechCrunch’ta yayınlandı