Kaliforniya Valisi Gavin Newsom, şiddetle tartışılan AI güvenlik tasarısı SB 1047’yi imzalamayı veya veto etmeyi değerlendirirken, SAG-AFTRA ve iki kadın grubu, onu onaylaması için zorluyor ve zaten çılgınca olan tartışmaya daha fazla ses katıyor. Sanatçılar sendikası, Ulusal Kadınlar Örgütü (NOW) ve Fund Her, Newsom’a mektuplar gönderdi ve bunların hepsi Sınır ve ilk kez burada yayınlanıyor.
Mektuplar SAG-AFTRA, ŞİMDİVe Ona fon sağlayın Teknolojinin düzenlenmeden bırakılması durumunda AI’nın felaket niteliğinde zararlara yol açma potansiyeline ilişkin endişeleri vurgular. SAG-AFTRA, SB 1047’nin geliştiricilerin kritik altyapıya yönelik siber saldırılar veya biyolojik silah geliştirme gibi AI’nın etkinleştirdiği felaketleri test etmeleri ve bunlara karşı koruma sağlamaları için verdiği yetkiyi ana hatlarıyla belirtir. NOW ve Fund Her, mezarı alıntılıyor uyarılar itibaren insanlar Yapay zekanın ön saflarında yer alın ve teknolojinin savunmasız gruplar üzerindeki orantısız etkilerini tartışın.
SAG-AFTRA gönderildi dün X’ten destek çağrısı 160.000 üyeHangi katmak Scarlett Johansson ve Tom Hanks gibi yıldızlar. ŞİMDİ, en büyük ABD’de yaklaşık 500.000 üyesi bulunan feminist bir örgüt, bu girişimin, “sorumlu bir şekilde geliştirilip kullanılmadığı takdirde bu inanılmaz teknolojinin ne kadar tehlikeli olabileceği” konusundaki uzman iddialarından ilham aldığını söyledi. Ona fon sağlayın, bir PAC’a sahip seçilmesine yardımcı oldu 2022 yılında Kaliforniya’da 12 ilerici kadının önemli pozisyonlara geleceğini belirten yazar, “ilk bağımsız düşünen yapay zekayı geliştirme yarışı”ndan ve bu noktada “güvenlik bariyerleri koymak için çok geç olacağından” bahsediyor.
SAG-AFTRA ve NOW, istisnai ulusal ilgi odağı haline gelen ve geleneksel partizan sınırlarını karıştıran Kaliforniya tasarısı hakkında ağırlığını koyan son güç odaklarını temsil ediyor.
SB 1047Eyalet Senatörü Scott Wiener tarafından kaleme alınan yasa, ABD’deki en önemli yapay zeka güvenlik yasası olacaktır. ChatGPT gibi yeni nesil yapay zeka modellerinin geliştiricileri için uygun güvenlik önlemlerini uygulamadan felaketlere neden olmaları durumunda hukuki sorumluluk tesis eder. Yasa tasarısı ayrıca yapay zeka şirketlerinin çalışanları için ihbarcı korumaları da içerir ve Destek OpenAI muhbirleri Daniel Kokotajlo ve William Saunders’dan.
“Kaliforniya’nın belirlediği yapay zeka güvenlik standartları dünyayı değiştirecek”
NOW mektubunda “Kaliforniya tarafından belirlenen yapay zeka güvenlik standartlarının dünyayı değiştireceğini” yazıyor, bu görüş yasa tasarısında da yankı buluyor ortak sponsor Dan Hendrycksyönetmen Yapay Zeka Güvenliği MerkeziHendrycks anlatıyor Sınır SB 1047’nin Newsom’un o zamanki Kaliforniya valisine atıfla “Pat Brown anı” olabileceği imzalama 1966’da çığır açan bir otomatik egzoz emisyon yasası çıkardı. O zamandan beri bilinen şeyi alıntıladı Kaliforniya Etkisi: “Kaliforniya önemli düzenlemeler konusunda önde giderken, ülkenin geri kalanı onu takip ediyor.”
Eyalet meclisinin her iki kanadından da onay alarak güçlü çoğunluklar Ağustos sonlarında, yasa tasarısı şu anda Vali Newsom’un 30 Eylül’e kadar vereceği kararı bekliyor. Valilik ofisi, “genellikle bekleyen mevzuat hakkında yorum yapmadıklarını” söyledi. Bu önlem, kendi değerlerine göre değerlendirilecek.
Bu yoruma rağmen, SB 1047’nin kaderi siyasi bir hesaplamaya dayanabilir; her iki taraf da yasa tasarısının son saatlerinde destek topladıkça bunun farkında görünüyor.
SB 1047 üzerindeki mücadelede ortaya çıkan tuhaf siyasi koalisyonlar, yapay zeka politika savaşları için altüst edici bir geleceğin habercisi. Milyarder Elon Musk, sosyal adalet grupları ve işçi sendikaları yasa tasarısını desteklerken, eski Temsilciler Meclisi Başkanı Nancy Pelosi, ilerici Temsilciler Meclisi Üyesi Ro KhannaTrump’ı destekleyen girişim sermayedarı Marc Andreessenve AI “vaftiz annesi” Fei-Fei Li hepsi karşı çıkıyor.
Yapay zeka, nadir görülen bir sorundur değil henüz sıralanmış açık partizan kamplarına. Teknolojinin önemi arttıkça, onu nasıl yöneteceğimize dair tartışmanın yoğunluğu artacak ve olağan bağlılıkları karıştırmaya devam edebilir.
Bu son mektuplar, yasa tasarısına destek veren kuruluşların yanı sıra, hemen hemen her yerden geliyor. 2 milyonluk SEIU ve Latino Topluluk Vakfı.
SAG-AFTRA, en organik AI karşıtı duygulara ev sahipliği yapmıştır. Birçok sinema oyuncusu Görmek üretken AI’nın geçim kaynaklarına yönelik varoluşsal bir tehdit olarak görülmesi. Teknolojinin kullanımı büyük bir takılma noktası 2023’te aktör grevi yaşandı ve bu grev gereklilik Stüdyoların, dijital kopyalarını oluşturmadan önce oyunculardan bilgilendirilmiş onay almaları gerekiyor (oyunculara ayrıca kullanımları için tazminat ödenmesi gerekiyor).
“SAG-AFTRA, yapay zekanın oluşturduğu potansiyel tehlikeleri çok iyi biliyor”
Sendikanın mektup “SAG-AFTRA, AI’nın oluşturduğu potansiyel tehlikeleri çok iyi biliyor” diye yazıyor ve üyelerinin rızası olmadan yapılan deepfake pornografisi ve sanatçıların benzerliklerinin çalınması şeklinde deneyimlediği sorunlara atıfta bulunuyor. “Politika yapıcıların devreye girip üyelerimizi ve halkı koruma sorumluluğu var. SB 1047, bizi oraya götürmek için ölçülü bir ilk adım.” sonucuna varıyor.
Telefonla yapılan bir röportajda, örgüt başkanı Christian Nunes, NOW’un, düzenlenmeyen yapay zekanın kadınları nasıl etkileyebileceği konusunda endişe duydukları için dahil olduklarını söyledi. O Ve ŞİMDİ Daha önce rızaya dayanmayan deepfake içeriklerin yasaklanması çabalarını desteklemişlerdi.
ŞİMDİ’de mektupNunes, yapay zeka uzmanlarının uyardığı tehlikelerin “orantısız bir şekilde kadınlar da dahil olmak üzere savunmasız gruplara düşeceğini” yazıyor. Newsom’un üreme hakları, eşit ücret ve ücretli aile izni konusunda “yoğun lobi baskısına rağmen bize verdiği cesur desteği” vurguluyor ve bu desteğin “kadınların ABD’ye oy vermesinin nedenlerinden biri olduğunu” belirtiyor. [him] “Tekrar tekrar.”
SB 1047, bu grupların daha temel endişelerini açıkça ele almak için tasarlanmamış olsa da, örgütler, arkasındaki koalisyona katılmanın stratejik değerini görüyor gibi görünüyor. Nunes, Sınır O, bu yasa tasarısını, Büyük Teknoloji şirketlerini sorumlu tutmaya yönelik daha geniş kapsamlı bir projenin parçası olarak görüyor.
SB 1047’ye verilen bu destek, bu grupların belirli sorunlarını daha doğrudan ele alan diğer bekleyen AI mevzuatını tamamlar. Örneğin, federal SAHTE YOK Yasası deepfake’lerle mücadele etmeyi hedeflerken, Newsom’un masasındaki bir diğer yapay zeka tasarısı ise, onaylanmış SAG-AFTRA tarafından, düzenlerdi dijital kopyaların kullanımı. SB 1047’yi bu daha hedefli girişimlerle birlikte destekleyerek, bu kuruluşlar AI yönetimine kapsamlı bir yaklaşım benimsiyor gibi görünüyor.
NOW ve Fund Her mektupları, düzenlenmemiş yapay zeka ile sosyal medyanın tarihi arasında paralellikler çiziyor. Fund Her kurucusu ve başkanı Valerie McGinty, Sınır, “Sosyal medyanın çocuklarımıza verdiği inanılmaz zararı ve bunu tersine çevirmenin ne kadar zor olduğunu gördük. Vali Newsom SB 1047’yi yasalaştırırsa tekrar telafi etmeye çalışmayacağız.”
Mektupların yasa tasarısının kendisine karşı dizilmiş güçlü güçleri yenmesi için yeterli olup olmayacağı belirsiz. Wiener ve diğerleri savunucular düzenlemeyi “hafif dokunuş” ve “sağduyu” olarak tanımlayın, endüstri genel olarak, çıldırmak.
ABD şu anda neredeyse tamamen kendi kendini düzenleme ve bağlayıcı olmayan gönüllü taahhütler AI’yı ve endüstriyi yönetmek için isterim bu şekilde tutmak için. İlk ABD AI güvenlik düzenlemesi olarak, SB 1047 güçlü bir emsal teşkil edecektir, bu da hem bu mektupların hem de endüstrinin güçlü muhalefetinin arkasındaki muhtemel motivasyondur.
Google, MetaVe Açık AI aldı olağan dışı yasa tasarısına karşı kendi mektuplarını yazma adımı. AI yatırımcılarının direnci daha da sert oldu, prestijli girişim kuluçka merkezi Y Kombinatörü (YC) ve girişim fonu Andreessen Horowitz (a16z) SB 1047’yi öldürmek için tam saha baskıya öncülük ediyor. Bu ve diğer önemli muhalifler, yasa tasarısının çabuk Kaliforniya’dan bir göç, devretmek ABD yapay zekada Çin’e liderlik ediyor ve harap etmek Açık kaynak topluluğu.
Doğal olarak, destekçiler bu argümanların her birine itiraz ediyor. Temmuz ayında mektup YC ve a16z’nin yasa tasarısıyla ilgili iddialarına değinen Wiener, SB 1047’nin dünyanın AI merkezi ve beşinci büyük ekonomisi olan Kaliforniya’da iş yapan herhangi bir kapsam dahilindeki AI şirketine uygulanacağını belirtiyor. Önde gelen AI şirketinin CEO’su ve sonunda fiili SB 1047 destekçisi olan Anthropic’in CEO’su Dario Amodei, isminde “sadece tiyatro” bırakma tehdidi (bununla birlikte, Açık AI, MetaVe Google).
Nancy Pelosi yasa tasarısını “iyi niyetli ama bilgisizce hazırlanmış” olarak nitelendirdi
Onun içinde ifade Tasarıya karşı çıkan Pelosi, bunu “iyi niyetli ancak yetersiz bilgilendirilmiş” olarak nitelendirdi. Telefonla yapılan bir röportajda Wiener, “Emerita Sözcüsü’ne karşı büyük bir saygım var. O, GOAT” dedi ancak Pelosi’nin açıklamasını “talihsiz” olarak nitelendirdi ve “gezegendeki en iyi makine öğrenimi öncülerinden bazılarının tasarıyı desteklediğini” belirterek derin öğrenme “babalarının” onaylarını gösterdi Geoffrey Hinton Ve Yoshua BengioWiener ayrıca destekleyici bir vurgu yapıyor açık mektup Pazartesi’den itibaren yayınlandı 100’den fazla Önde gelen yapay zeka şirketlerinin çalışanları ve mezunları.
SB 1047’yi kendi açısından değerlendirmek için en ikna edici mektup şu olabilir: bir tane yayınlandı Anthropic tarafından yazılan ve akranlarından ayrılarak revize edilen mevzuatın “faydalarının muhtemelen maliyetlerinden daha ağır bastığını” yazan bir mektup. Bu mektup, değişiklik turu şirketin doğrudan yanıt olarak yapılmış önceki şikayetlerAnthropic’in Claude sohbet robotu ailesi dünyaya öncülük ediyor bazı ölçümlerve şirketin yakın gelecekte doğrudan yasa kapsamına giren birkaç yapay zeka geliştiricisinden biri olması muhtemel.
Kilit kongre liderleriyle engellemeye söz vermek maddi federal AI düzenlemeleri ve SB 1047’ye karşıKaliforniya, daha önce yaptığı gibi, tek başına hareket edebilir net tarafsızlık Ve veri gizliliğiNOW’dan Nunes’un yazdığı gibi, “Kaliforniya’nın belirlediği yapay zeka güvenlik standartları dünyayı değiştirecek” ve Vali Newsom’a tarih yazma ve “dengeli yapay zeka liderliği” modelleme şansı verecek.
Onun Fonu McGinty taraftarların duruşunu bir e-postada özetledi Sınır: “Yapay zeka güvenliğinden kaçınan büyük teknoloji yöneticilerinden çok, refahımızla daha fazla ilgilenen bu uzmanları dinlemeliyiz.”
30 Eylül son tarihi yaklaşırken, tüm gözler Vali Newsom’ın Kaliforniya’da ve ötesinde AI yönetiminin geleceğini nasıl şekillendireceğini görmek için üzerinde. Wiener, “Gavin Newsom ile deneyimim şu ki – katılın veya katılmayın – eyalet için en iyi olduğunu düşündüğü şeye dayanarak düşünceli kararlar alıyor,” diyor. “Onun bu özelliğini her zaman takdir etmişimdir.”
Düzeltme: Makale başlangıçta derin öğrenmenin “vaftiz babası” Yann LeCun’u SB 1047’nin destekçisi olarak gösterdi. LeCun yasa tasarısına karşı çıkıyor. Hatadan dolayı üzgünüz.