Kaliforniya yapay zeka sektörünü altüst edecek mi?

Yapay zeka hızla hareket ediyor. Artık insanları yeterince ikna edici bir şekilde taklit edebiliyor büyük çaplı telefon dolandırıcılıklarını körüklemek veya döndürmek Ünlülerin rızası olmadan yapılan deepfake görüntüleri taciz kampanyalarında kullanılmak üzere. Bu teknolojiyi düzenlemenin aciliyeti hiç bu kadar kritik olmamıştı — bu yüzden, AI’nın en büyük oyuncularının çoğuna ev sahipliği yapan Kaliforniya, SB 1047 olarak bilinen bir yasa tasarısıyla bunu yapmaya çalışıyor.

Ağustos ayı sonlarında Kaliforniya Eyalet Meclisi ve Senatosu’ndan geçen SB 1047, şu anda yasa tasarısının kaderini belirleyecek olan Kaliforniya Valisi Gavin Newsom’un masasında. AB ve diğer bazı hükümetler yıllardır yapay zeka düzenlemeleri üzerinde çalışırken, SB 1047 şimdiye kadar ABD’deki en katı çerçeve olacak. Eleştirmenler, bunun etkisine dair neredeyse kıyametvari bir tablo çizerek, bunu yeni başlayan şirketler, açık kaynak geliştiricileri ve akademisyenler için bir tehdit olarak adlandırdılar. Destekçiler, bunu potansiyel olarak tehlikeli bir teknoloji için gerekli bir bariyer ve yıllardır süren yetersiz düzenlemelere bir düzeltme olarak adlandırıyorlar. Her iki durumda da, Kaliforniya’daki mücadele bildiğimiz haliyle yapay zekayı altüst edebilir ve her iki taraf da güçlü bir şekilde ortaya çıkıyor.

SB 1047’nin orijinal versiyonu cesur ve iddialıydı. Eyalet Senatörü Scott Wiener tarafından Sınır Yapay Zeka Modelleri için Güvenli ve Emniyetli Yenilik Yasası olarak tanıtılan yasa, günümüzün en büyük yapay zeka sistemlerinin (10^26 FLOPS) büyüklüğünde, yeterli miktarda işlem gücüne sahip gelişmiş yapay zeka modellerini sıkı bir şekilde düzenlemeyi amaçlıyordu. Yasa, bu sınır modellerinin geliştiricilerinin, üçüncü taraf değerlendirmeleri de dahil olmak üzere kapsamlı güvenlik testleri yürütmesini ve modellerinin insanlık için önemli bir risk oluşturmadığını onaylamasını gerektiriyordu. Geliştiriciler ayrıca, sahte modelleri kapatmak ve güvenlik olaylarını yeni kurulan bir düzenleyici kuruma bildirmek için bir “kapatma anahtarı” uygulamak zorundaydı. Başsavcıdan felaket niteliğindeki güvenlik hataları nedeniyle potansiyel davalarla karşı karşıya kalabilirlerdi. Güvenlik konusunda yalan söylerlerse, geliştiriciler hapis tehdidi de içeren yalancı şahitlik suçlamalarıyla bile karşı karşıya kalabilirlerdi (ancak, bu pratikte son derece nadirdir).

Kaliforniya’nın yasama organları AI’yı düzenlemek için benzersiz bir güce sahip. Ülkenin en kalabalık eyaleti, yasa tasarısına açıkça karşı çıkan OpenAI ve tereddütlü olan Anthropic dahil olmak üzere birçok önde gelen AI şirketine ev sahipliği yapıyor. desteği üzerine değişikliklerden önce. SB 1047 ayrıca Kaliforniya pazarında faaliyet göstermek isteyen modelleri düzenlemeyi ve eyaletin sınırlarının çok ötesinde geniş kapsamlı bir etki sağlamayı amaçlıyor.

Şaşırtıcı olmayan bir şekilde, teknoloji sektörünün önemli bölümleri ayaklandı. Temmuz ayının sonlarında katıldığım yapay zeka düzenlemesiyle ilgili bir Y Combinator etkinliğinde, Coursera’nın kurucu ortağı ve Google Brain’in kurucusu Andrew Ng ile konuştum. Kendisi San Francisco sokaklarında SB 1047’ye karşı protesto planlarından bahsetti. Ng daha sonra sahneye sürpriz bir şekilde çıktı ve Wiener ekibiyle birlikte izlerken yasa tasarısını akademisyenlere ve açık kaynak geliştiricilerine potansiyel zararı nedeniyle eleştirdi.

“Birisi büyük bir dil modelini eğittiğinde… bu bir teknolojidir. Birisi bunları bir tıbbi cihaza veya bir sosyal medya akışına veya bir sohbet robotuna koyduğunda veya bunları politik deepfake’ler veya rızaya dayanmayan deepfake pornosu üretmek için kullandığında, bunlar uygulamalardır,” dedi Ng sahnede. “Ve yapay zekanın riski bir işlev değildir. Teknolojiye bağlı değildir – uygulamaya bağlıdır.”

Eleştirmenler Ng gibi SB 1047’nin ilerlemeyi yavaşlatabileceğinden endişe ediliyor, bu da sıklıkla ABD’nin Çin ve Rusya gibi rakip ülkelere karşı sahip olduğu üstünlüğü engelleyebileceği korkularını uyandırıyor. Temsilciler Zoe Löfgren Ve Nancy Pelosi Ve Kaliforniya Ticaret Odası Yasa tasarısının felaketle sonuçlanacak yapay zekanın kurgusal versiyonlarına çok fazla odaklandığı konusunda endişeler var ve yapay zeka öncüsü Fei-Fei Li uyardı bir Talih kolon SB 1047’nin “gelişmekte olan yapay zeka ekosistemimize zarar vereceği”. Bu aynı zamanda, federal düzenlemelerin açık kaynaklı yapay zeka topluluklarındaki inovasyonu engellemesinden endişe eden Khan için de bir baskı noktası.

YC etkinliğinde sahnede, Khan açık kaynağın kanıtlanmış bir inovasyon sürücüsü olduğunu ve girişimleri desteklemek için yüzlerce milyarlık risk sermayesi çektiğini vurguladı. Khan, “Hem yenilikçiler olarak sizler hem de kolluk kuvvetleri olarak bizler için açık kaynağın AI bağlamında ne anlama gelmesi gerektiğini düşünüyoruz,” dedi. “Yazılım bağlamında açık kaynağın tanımı, AI bağlamında düzgün bir şekilde tercüme edilmiyor.” Hem yenilikçilerin hem de düzenleyicilerin, düzenleme bağlamında açık kaynaklı AI’yı nasıl tanımlayacakları ve koruyacakları konusunda hala yol aldıklarını söyledi.

Eleştirilerin sonucu, 15 Ağustos’ta komiteden geçen SB 1047’nin önemli ölçüde daha yumuşak bir ikinci taslağıydı. Yeni SB 1047’de, önerilen düzenleyici kurum kaldırıldı ve başsavcı artık geliştiricileri büyük güvenlik olayları için dava edemiyor. Yalan yere yemin etme tehdidi altında güvenlik sertifikaları sunmak yerine, geliştiricilerin artık cezai sorumluluk olmaksızın güvenlik uygulamaları hakkında yalnızca kamuya açık “açıklamalar” sunmaları gerekiyor. Ayrıca, bir modeli ince ayarlamak için 10 milyon dolardan az harcama yapan kuruluşlar, yasa kapsamında geliştirici olarak kabul edilmiyor ve bu da küçük yeni kurulan şirketlere ve açık kaynak geliştiricilerine koruma sağlıyor.

Yine de, destekçilere göre bu, yasa tasarısının geçmeye değmediği anlamına gelmiyor. Zayıflatılmış haliyle bile, SB 1047 “tek bir AI şirketinin bile eylemlerini düşünmesine veya AI modellerinin insan değerleriyle uyumunu daha ciddiye almasına neden olursa, bu iyi olacaktır” yazdı NYU’da psikoloji ve sinir bilimi alanında emekli profesör olan Gary Marcus. Bazıları hiç yoktan iyidir diyebileceği kritik güvenlik korumaları ve ihbarcı kalkanları sunmaya devam edecek.

Antropik CEO Dario Amodei yasa tasarısının “değişikliklerden sonra, faydalarının maliyetlerinden muhtemelen daha ağır bastığına inandığımız noktaya kadar önemli ölçüde iyileştirildi”. SB 1047’yi destekleyen bir açıklama tarafından bildirildi AksiyolarOpenAI, Anthropic, Google’ın DeepMind ve Meta’nın 120 mevcut ve eski çalışanı, “en güçlü yapay zeka modellerinin yakında biyolojik silahlara erişimin genişlemesi ve kritik altyapılara yönelik siber saldırılar gibi ciddi riskler oluşturabileceğine inandıklarını” söyledi.

Açıklamada, “Sınırdaki yapay zeka şirketlerinin, en güçlü yapay zeka modellerinin ciddi zararlara yol açıp açmayacağını test etmeleri ve bu şirketlerin bu tür risklere karşı makul güvenlik önlemleri uygulamaları mümkün ve uygundur” denildi.

Bu arada, birçok muhalif pozisyonunu değiştirmedi. “Düzenlemeler vitrin süslemesi,” Andreessen Horowitz genel ortağı Martin Casado gönderildi“Yasa tasarısının gerçek sorunlarına veya eleştirilerine değinmiyorlar.”

Ayrıca OpenAI’nin baş strateji sorumlusu Jason Kwon, Newsom ve Wiener’a yazdığı mektupta, “SB 1047’nin bu büyümeyi tehdit edeceğini, inovasyon hızını yavaşlatacağını ve Kaliforniya’nın dünya standartlarındaki mühendislerinin ve girişimcilerinin daha büyük fırsatlar aramak için eyaleti terk etmesine yol açacağını” söyledi.

Kwon, “Bu riskler göz önüne alındığında, yapay zeka laboratuvarları ve geliştiricileri için netlik ve kesinlik sağlarken aynı zamanda kamu güvenliğini de koruyan bir dizi federal politika ile Amerika’nın yapay zeka üstünlüğünü korumalıyız” diye yazdı.

SB 1047’nin bu son derece düzeltilmiş versiyonu Newsom’ın masasına ulaşmış olsa da, bu konuda dikkat çekici bir şekilde sessiz kalmıştır. Teknolojinin düzenlenmesinin her zaman bir miktar politik manevra içerdiği ve Newsom’ın bu tür tartışmalı düzenlemelere ilişkin ağzı sıkı yaklaşımının çok şey ifade ettiği tam olarak yeni bir haber değildir. Newsom mayıs başkanlık seçimleri öncesinde teknoloji uzmanlarıyla aramızı bozmak istemiyorum.

Birçok etkili teknoloji yöneticisi aynı zamanda siyasi kampanyalara büyük bağışlarda bulunuyor ve dünyanın en büyük teknoloji şirketlerinden bazılarının evi olan Kaliforniya’da bu yöneticiler eyaletin siyasetiyle derin bağlara sahip. Girişim sermayesi şirketi Andreessen Horowitz hatta Jason Kinney’i bile işe aldıVali Newsom’un yakın arkadaşı ve Demokrat bir ajan olan , yasa tasarısına karşı lobi yapmak için. Bir politikacı için teknoloji düzenlemesi için baskı yapmak, kampanya katkılarında milyonlarca dolar kaybetmek anlamına gelebilir. Newsom gibi, başkanlık hedefleri açık olan biri için bu, tehlikeye atmayı göze alamayacağı bir destek seviyesidir.

Dahası, Silikon Vadisi ile Demokratlar arasındaki uçurum, özellikle de… Andreessen Horowitz’in kurucu ortakları desteklerini dile getirdi Donald Trump için. Şirketin SB 1047’ye karşı güçlü muhalefeti, Newsom’un bunu yasalaştırması durumunda uçurumun daha da derinleşebileceği ve Demokratların Silikon Vadisi’nin desteğini yeniden kazanmasını zorlaştırabileceği anlamına geliyor.

Yani, dünyanın en güçlü teknoloji şirketleri ve Pelosi gibi diğer politikacıların yoğun baskısı altında olan Newsom’a geliyor. Yasa koyucular onlarca yıldır düzenleme ve inovasyon arasında hassas bir denge kurmaya çalışırken, yapay zeka belirsiz ve benzeri görülmemiş bir konu ve eski kuralların çoğu uygulanmıyor gibi görünüyor. Şimdilik, Newsom’un bildiğimiz haliyle yapay zeka sektörünü altüst edebilecek bir karar vermek için Eylül ayına kadar vakti var.