Kaliforniya Valisi Gavin Newsom Salı günü masasında yapay zekayla ilgili yasalar çıkaracak 38 yasa tasarısı olduğunu söyledi, ancak bunlardan biri hepsinden daha büyük görünüyor: Kaliforniya’nın yapay zeka sistemlerinin felaketlere yol açmasını engellemeye çalışan yasa tasarısı SB 1047. Kaliforniya Valisi ilk kez tartışmalı yasa tasarısı hakkında ne düşündüğünü paylaştı.
Kısacası, SB 1047’nin sorunları olduğunu düşünüyor. Newsom, Kaliforniya’nın patlayan AI sektörünü altüst etmeden bugünün sorunlarını çözebilecek AI faturalarıyla ilgilendiğini söyledi. Bu, ürünlerinin kritik altyapıyı çökertmek gibi ağır zararlara yol açmak için kullanılması durumunda büyük AI satıcılarını sorumlu tutarak felaketlere karşı korumayı amaçlayan SB 1047’nin geleceği için pek de umut verici değil. Aynı zamanda, yasa tasarısını imzalamak, Newsom’un yasa tasarısını veto etmesini isteyen AI sektörünün büyük kesimlerini altüst edecektir.
Newsom, Salı günü 2024 Dreamforce konferansında sahnede Salesforce CEO’su Marc Benioff ile yaptığı bir sohbette, “Son birkaç yıldır risk almayı destekleyen ancak pervasızlığı desteklemeyen bazı rasyonel düzenlemeler ortaya çıkarmak için çalışıyoruz,” dedi. “Bu, özellikle SB 1047 ile birlikte, mevzuatın yaratabileceği aşırı etki ve özellikle açık kaynak topluluğunda caydırıcı etki nedeniyle bu alanda artık zorlayıcı.”
Newsom, kanıtlanabilir riskleri varsayımsal risklere karşı değerlendirmesi gerektiğini söyledi. Daha sonra, “Her şeyi çözemem. Neyi çözebiliriz?” diye belirtti.
Vali, SB 1047’ye yönelik önemli bir eleştiriye değindi: yasa tasarısı, AI’nın 500 milyon dolardan fazla maliyete yol açan toplu can kaybı olaylarındaki ve siber güvenlik olaylarındaki rolünü engellemeye çalışıyor, ancak teknoloji şirketlerini bundan daha az bir şey için sorumlu tutmak için pek bir şey yapmıyor. SB 1047’yi eleştirenler, yasa tasarısının inovasyonu engelleyebileceğini ve AI sistemlerinin bugün yarattığı kısa vadeli sorunları düzenlemede başarısız olabileceğini savundu.
Newsom bu sözleri San Francisco’nun kalbindeki bir kurumsal teknoloji konferansına katılan bir oda dolusu insana söyledi. Son zamanlarda katıldığım çoğu teknoloji konferansında, tuvalet kuyruğunda SB 1047’nin birçok sorunu hakkında homurdanmalar duyuyorsunuz. Newsom muhtemelen izleyiciler arasında hangi tür seçmenlerin olduğunu biliyordu ve kalabalığa oynuyor olabilirdi.
Bununla birlikte, vali AI düzenlemesini söylediği gibi yapıyor. Salı günü erken saatlerde, Kaliforniya Valisi, AI tarafından üretilen seçim yanlış bilgilendirmesi ve Hollywood stüdyolarının aktörlerin AI klonlarını oluşturması gibi 2024’te zaten gördüğümüz AI sorunlarını ele alan beş yasa tasarısını yasalaştırdı. Bunlar Newsom’un atıfta bulunduğu “gösterilebilir riskler” olabilir.
Aynı zamanda Newsom, Salı günü federal hükümetin yapay zeka alanında “düzenleme yapmada başarısız” olmasından yakındı. Vali, Kaliforniya’nın teknoloji düzenlemelerinde -yani sosyal medya ve gizlilik- nasıl daha önce liderlik ettiğini belirtti ve insanların liderlik için tekrar eyalete bakmalarına şaşırmadığını söyledi.
SB 1047 tasarısının yazarı, Kaliforniya eyalet senatörü Scott Wiener’in sözcüsü, TechCrunch’ın yorum talebine henüz yanıt vermedi.
“[AI] Newsom, “Bu, egemen olduğumuz bir alan ve egemenliğimizi sürdürmek istiyorum” dedi. “Aynı zamanda, çoğumuzun sahip olduğu -bu teknolojinin en büyük ve en güçlü destekçilerinin bile sahip olduğu- daha uç endişelerden bazılarını ele almak için derin bir sorumluluk hissediyorsunuz ve bu, inilmesi zor bir yer.”
Newsom, SB 1047’nin imzalanmasının yapay zeka sektörünü bir gecede nasıl altüst edeceğinin muhtemelen abartıldığını ima etti. Ancak, birkaç yıl boyunca yanlış yasa tasarılarının imzalanmasının etkisinin Kaliforniya’nın liderliğini nasıl derinden etkileyebileceğini belirtti.
Kaliforniya valisi Salı günü yasa tasarısını imzalayıp imzalamayacağını veya veto edip etmeyeceğini açıkça söylemedi. OpenAI, Nancy Pelosi, Amerika Birleşik Devletleri Ticaret Odası ve Büyük Teknoloji ticaret grupları Newsom’u SB 1047’yi veto etmeye zorluyor. Öte yandan Elon Musk, Anthropic ve bazı saygın AI araştırmacıları ılımlı bir coşku dile getirdiler.
Vali Newsom’ın kararını vermek için iki haftası var. O zamana kadar, yasa tasarısının geleceği için umut verici görünmeyen bir sürü yorumla baş başa kalacağız.