Kaliforniya Eyalet Meclisi, Sınır Yapay Zeka Modelleri için Güvenli ve Emniyetli Yenilik Yasasını (SB 1047) kabul etti. Reuters raporlarYasa tasarısı, ABD’de yapay zekaya ilişkin ilk önemli düzenlemelerden biri olma özelliğini taşıyor.
Silikon Vadisi ve ötesinde tartışmaların odak noktası olan yasa tasarısı, Kaliforniya’da faaliyet gösteren AI şirketlerini, karmaşık bir temel modeli eğitmeden önce bir dizi önlem uygulamaya mecbur kılacaktır. Bunlar arasında, modeli hızlı ve tamamen kapatmayı mümkün kılmak, modelin “güvenli olmayan eğitim sonrası değişikliklere” karşı korunmasını sağlamak ve bir modelin veya türevlerinin özellikle “kritik bir zarara neden olma veya bunu etkinleştirme” riski altında olup olmadığını değerlendirmek için bir test prosedürünün sürdürülmesi yer almaktadır.
Yasa tasarısının baş yazarı Senatör Scott Wiener, söz konusu SB 1047, büyük AI laboratuvarlarından halihazırda yapmaya söz verdikleri şeyi yapmalarını isteyen oldukça makul bir yasa tasarısıdır: büyük modellerini felaket güvenlik riskine karşı test etmelerini. “Açık kaynak savunucuları, Anthropic ve diğerleriyle birlikte yasa tasarısını iyileştirmek ve geliştirmek için tüm yıl boyunca çok çalıştık. SB 1047, öngörülebilir AI riskleri hakkında bildiklerimize göre iyi ayarlanmış ve yürürlüğe girmeyi hak ediyor.”
SB 1047’nin eleştirmenleri — OpenAI ve Antropikpolitikacılar Zoe Löfgren Ve Nancy PelosiVe Kaliforniya Ticaret Odası — felaket boyutunda zararlara aşırı odaklandığını ve küçük, açık kaynaklı yapay zeka geliştiricilerine haksız yere zarar verebileceğini savundu. Fatura Buna cevaben, olası cezai yaptırımların yerini hukuki yaptırımlar aldı, Kaliforniya başsavcısına verilen yaptırım yetkileri daraltıldı ve yasa tasarısıyla oluşturulan “Sınır Modelleri Kurulu”na katılma şartları düzenlendi.
Eyalet Senatosu’nun değiştirilen yasa tasarısı üzerinde oylama yapmasının ardından (oylamanın geçmesi bekleniyor) AI güvenlik tasarısı, kaderine karar vermek için Eylül ayının sonuna kadar vakti olacak olan Vali Gavin Newsom’a gönderilecek. buna göre New York Times.
Anthropic, Anthropic CEO’su Dario Amodei’nin Vali Newsom’a gönderdiği bir mektuba işaret etmenin ötesinde yorum yapmayı reddetti geçen haftaOpenAI yorum talebine hemen yanıt vermedi.