Ülkenin 2024’teki en tartışmalı AI güvenlik faturası olan California’s SB 1047’nin yazarı, Silikon Vadisi’ni sarsabilecek yeni bir AI faturasına geri döndü.
California Eyalet Senatörü Scott Wiener bir yeni fatura Cuma günü, çalışanların AI laboratuvarlarında çalışanları koruyacak ve şirketlerinin AI sistemlerinin toplum için “kritik bir risk” olabileceğini düşünürlerse konuşmalarına izin verecek. Yeni fatura SB 53, araştırmacılara ve yeni başlayanlara halka fayda sağlayan AI geliştirmek için gerekli bilgi işlem kaynaklarını vermek için Calcompute adlı bir genel bulut bilişim kümesi oluşturacaktı.
Wiener’in California’nın SB 1047 son AI faturası, ülke çapında felaketlere neden olabilecek büyük AI sistemlerinin nasıl ele alınacağı konusunda canlı bir tartışmaya yol açtı. SB 1047, çok büyük AI modellerinin, yaşam kaybına neden olmak veya 500 milyon dolardan fazla zarar veren siber saldırılar gibi felaket olayları yaratma olasılığını önlemeyi amaçladı. Ancak, Vali Gavin Newsom nihayetinde SB 1047’nin en iyi yaklaşım olmadığını söyleyerek Eylül ayında tasarıyı veto etti.
Ancak SB 1047 konusundaki tartışmalar hızla çirkinleşti. Bazı Silikon Vadisi liderleri, SB 1047’nin Amerika’nın küresel AI yarışındaki rekabet gücüne zarar vereceğini ve tasarının AI sistemlerinin bilim kurgu benzeri kıyamet senaryolarını getirebileceği gerçekçi olmayan korkulardan ilham aldığını iddia etti. Bu arada Senatör Wiener, bazı girişim kapitalistlerinin faturasına karşı bir “propaganda kampanyası” yaptığını iddia ederek kısmen Y Combinator’un SB 1047’nin başlangıç kurucularını hapse göndereceği iddiasına işaret etti.
SB 53 esasen SB 1047’nin en az tartışmalı kısımlarını alır – bilgi uçurma korumaları ve bir calcompute kümesinin kurulması gibi – ve bunları yeni bir AI faturasına yeniden paketler.
Özellikle, Wiener SB 53’teki varoluşsal AI riskinden uzaklaşmıyor. Yeni fatura, işverenlerinin “kritik risk” oluşturan AI sistemleri yarattığına inanan ihbarcıları özellikle koruyor. Tasarı, kritik riski bir “Bir geliştiricinin, tanımlandığı gibi bir temel modelinin geliştirilmesi, depolanması veya dağıtımının, 100’den fazla kişinin veya para veya mülkün haklarına 1 milyar dolardan fazla hasar vermesine neden olacağı öngörülebilir veya maddi risk. ”
SB 53, Frontier AI model geliştiricilerini – muhtemelen Openai, Antropik ve Xai dahil olmak üzere, diğerlerinin yanı sıra – bilgi ile ilgili bilgileri açıklayan çalışanlara misilleme yapmaktan Kaliforniya Başsavcısı, federal yetkilileri veya diğer çalışanlara sınırlar. Tasarı uyarınca, bu geliştiricilerin, ihbarcıların aldıkları bazı iç süreçler hakkında bilgi uçuranlara geri bildirmeleri istenecektir.
Calcompute gelince, SB 53 genel bir bulut bilişim kümesi oluşturmak için bir grup kuracaktı. Grup, California Üniversitesi temsilcilerinin yanı sıra diğer kamu ve özel araştırmacılardan oluşacaktı. Calcompute’nin nasıl oluşturulacağı, kümenin ne kadar büyük olması gerektiği ve hangi kullanıcıların ve kuruluşların buna erişmesi gerektiği konusunda önerilerde bulunacaktır.
Tabii ki, SB 53 için yasama sürecinde çok erken. Tasarının Vali Newsom’un masasına ulaşmadan önce California’nın yasama organları tarafından gözden geçirilmesi ve geçmesi gerekiyor. Eyalet milletvekilleri kesinlikle Silikon Vadisi’nin SB 53’e tepkisini bekliyor olacak.
Bununla birlikte, 2025, 2024’e kıyasla AI güvenlik faturalarını geçmek için daha zor bir yıl olabilir. California, 2024’te AI ile ilgili 18 faturayı geçti, ancak şimdi AI Doom hareketi zemini kaybetmiş gibi görünüyor.
Başkan Yardımcısı JD Vance, Paris AI Eylem Zirvesi’nde Amerika’nın AI güvenliğiyle ilgilenmediğini, aksine AI inovasyonuna öncelik verdiğini gösterdi. SB 53 tarafından kurulan Calcompute kümesi kesinlikle AI ilerlemesini ilerletiyor olsa da, varoluşsal AI riski etrafında yasama çabalarının 2025’te nasıl gerçekleşeceği belli değil.
