Kaliforniya’nın AI felaketlerini önleme tasarısı SB 1047, Silikon Vadisi’ndeki birçok partiden önemli bir muhalefetle karşı karşıya kaldı. Bugün, Kaliforniyalı kanun koyucular bu baskıya hafifçe boyun eğerek AI firması Anthropic ve diğer muhalifler tarafından önerilen birkaç değişikliği eklediler.
Senatör Wiener’in ofisi TechCrunch’a yaptığı açıklamada, yasa tasarısının Perşembe günü Kaliforniya Tahsisat Komitesi’nden geçerek yasalaşma yolunda önemli bir adım attığını ve birkaç önemli değişiklik içerdiğini söyledi.
Senatör Wiener, TechCrunch’a yaptığı açıklamada, “Önerilen çok makul değişiklikleri kabul ettik ve Anthropic ve sektördeki diğer birçok kişi tarafından dile getirilen temel endişeleri ele aldığımıza inanıyorum,” dedi. “Bu değişiklikler, önemli bir yenilik kaynağı olan açık kaynak topluluğunun benzersiz ihtiyaçlarını karşılamak için daha önce SB 1047’de yaptığım önemli değişikliklere dayanıyor.”
SB 1047, geliştiricileri sorumlu tutarak büyük AI sistemlerinin çok sayıda insanı öldürmesini veya 500 milyon dolardan fazla maliyete yol açan siber güvenlik olaylarına neden olmasını engellemeyi amaçlıyor. Ancak, yasa tasarısı artık Kaliforniya hükümetine AI laboratuvarlarını sorumlu tutma konusunda daha az yetki veriyor.
SB 1047 şimdi ne yapıyor?
En önemlisi, yasa tasarısı artık Kaliforniya başsavcısının, felaket bir olay meydana gelmeden önce yapay zeka şirketlerini ihmalkar güvenlik uygulamaları nedeniyle dava etmesine izin vermiyor. Bu, Anthropic’in bir önerisiydi.
Bunun yerine, Kaliforniya başsavcısı ihtiyati tedbir talep edebilir, bir şirketin tehlikeli bulduğu belirli bir işlemi durdurmasını talep edebilir ve modeli felaketle sonuçlanan bir olaya neden olursa bir yapay zeka geliştiricisine dava açabilir.
Ayrıca, SB 1047 artık eskiden yasa tasarısına dahil edilen yeni bir hükümet kurumu olan Frontier Model Division’ı (FMD) oluşturmuyor. Ancak, yasa tasarısı hala FMD’nin çekirdeği olan Frontier Models Kurulu’nu oluşturuyor ve bunları mevcut Hükümet Operasyonları Kurumu’nun içine yerleştiriyor. Aslında, kurul artık daha büyük ve beş yerine dokuz kişiden oluşuyor. Frontier Models Kurulu hala kapsanan modeller için hesaplama eşikleri belirleyecek, güvenlik rehberliği yayınlayacak ve denetçiler için düzenlemeler yayınlayacak.
Senatör Wiener ayrıca SB 1047’yi, AI laboratuvarlarının artık “yalan yere yemin etme cezası altında” güvenlik test sonuçlarının sertifikalarını sunmasına gerek kalmayacak şekilde değiştirdi. Şimdi, bu AI laboratuvarlarının yalnızca güvenlik uygulamalarını açıklayan kamuya açık “beyanlar” sunması gerekiyor, ancak yasa tasarısı artık herhangi bir cezai sorumluluk getirmiyor.
SB 1047 ayrıca artık geliştiricilerin AI modellerinin güvenli olduğundan nasıl emin olacakları konusunda daha hoşgörülü bir dil içeriyor. Şimdi, yasa geliştiricilerin AI modellerinin felakete yol açma riski oluşturmaması için “makul özen” göstermesini gerektiriyor, yasa tasarısının daha önce gerektirdiği “makul güvence” yerine.
Ayrıca, kanun koyucular açık kaynaklı ince ayarlı modeller için bir koruma eklediler. Birisi kapsanan bir modeli ince ayarlamak için 10 milyon dolardan az harcarsa, SB 1047 tarafından açıkça bir geliştirici olarak kabul edilmez. Sorumluluk hala modelin orijinal, daha büyük geliştiricisinde olacaktır.
Peki şimdi neden bu kadar değişiklik yapıldı?
Yasa tasarısı ABD kongre üyeleri, tanınmış AI araştırmacıları, Big Tech ve risk sermayedarlarından önemli bir muhalefetle karşı karşıya kalsa da, yasa tasarısı Kaliforniya yasama organından nispeten kolaylıkla geçti. Bu değişikliklerin SB 1047 muhaliflerini yatıştırması ve Vali Newsom’a AI sektöründen desteğini kaybetmeden yasalaştırabileceği daha az tartışmalı bir yasa tasarısı sunması muhtemel.
Newsom SB 1047 hakkında kamuoyuna bir yorumda bulunmamış olsa da, daha önce belirtilen Kaliforniya’nın yapay zeka inovasyonuna olan bağlılığı.
Bununla birlikte, bu değişikliklerin SB 1047’nin sadık eleştirmenlerini yatıştırması pek olası değil. Yasa tasarısı bu değişikliklerden önce olduğundan belirgin şekilde daha zayıf olsa da, SB 1047 hala geliştiricileri yapay zeka modellerinin tehlikelerinden sorumlu tutuyor. SB 1047 hakkındaki bu temel gerçek evrensel olarak desteklenmiyor ve bu değişiklikler bunu ele almak için pek bir şey yapmıyor.
Aslında, SB 1047’nin Kaliforniya’nın tahsisat komitesinden geçmesinden sadece birkaç dakika sonra, sekiz Birleşik Devletler kongre üyesinden oluşan bir grup bir yasa tasarısı yazdı mektup Vali Newsom’dan SB 1047’yi veto etmesini isteyen yasa tasarısının “eyaletimiz, girişimcilik topluluğu, bilimsel gelişme veya hatta yapay zeka geliştirmeyle ilişkili olası zararlara karşı koruma açısından iyi olmayacağını” yazdı.
Sırada ne var?
SB 1047 şimdi nihai oylama için Kaliforniya Meclisi salonuna gidiyor. Orada geçerse, bu son değişiklikler nedeniyle oylama için Kaliforniya Senatosu’na geri gönderilmesi gerekecek. Her ikisini de geçerse, Vali Newsom’un masasına gidecek ve burada veto edilebilir veya yasalaştırılabilir.
