Kaliforniya’daki yeni bir AI güvenlik tasarısı, OpenAI baş strateji sorumlusu Jason Kwon arasında endişelere yol açtı. California Eyalet Senatörü Scott Wiener’e hitaben yazdığı bir mektupta Kwon, AI düzenlemesinin federal hükümete bırakılması gerektiğinde ısrar ediyor.
Kwon’a göre Kaliforniya’da düşünülen yeni SB 1047 yasa tasarısı, yapay zeka alanındaki ilerlemeyi yavaşlatabilir ve şirketlerin eyaletten ayrılmasına yol açabilir. Kendisi, “eyalet yasalarından oluşan bir parça parça” yerine, federal olarak hazırlanmış bir dizi politikanın yeniliği teşvik edeceğine ve ABD’nin küresel standartlar geliştirmede lider olmasına olanak sağlayacağına inanıyor.
Gelişmiş Yapay Zeka Modelleri Yasası için Güvenli ve Güvenilir Yenilik Yasası olarak da bilinen SB 1047, daha güçlü yapay zeka modelleri geliştirilmeden önce standartları belirler, dağıtımdan önce güvenlik testleri gibi koruma önlemleri gerektirir ve yapay zeka laboratuvarı çalışanları için ihbar korumaları ekler. Ayrıca, Kaliforniya başsavcısına, yapay zeka modellerinin zarar vermesi durumunda yasal işlem başlatma yetkisi veriyor ve CalCompute adı verilen bir “genel bulut bilişim kümesi” oluşturulması çağrısında bulunuyor.
Senatör Wiener de dahil olmak üzere tasarıyı destekleyenler, yapay zekanın güvenliğini ve güvenilirliğini sağlamanın gerekli olduğunu savunuyor. Ancak Kwon ve diğer eleştirmenler, tasarının Kaliforniya’daki şirketlerin göçüne ve bölgedeki ilerlemenin yavaşlamasına yol açabileceğini söylüyor.
Kwon’un mektubuna yanıt olarak Senatör Wiener, önerilen gerekliliklerin, merkezi eyalette olup olmadığına bakılmaksızın Kaliforniya’da iş yapan tüm şirketler için geçerli olduğunu belirtti. Ayrıca OpenAI’nin “…tasarının herhangi bir hükmünü eleştirmediğini” belirtti ve “SB 1047’nin, büyük yapay zeka laboratuvarlarının zaten yapmayı taahhüt ettikleri şeyi yapmasını, yani büyük yapay zekalarını test etmesini gerektiren çok makul bir yasa tasarısı olduğunu” temin etti. yıkıcı güvenlik risklerine yönelik modeller.”
SB 1047, yalancı şahitliğe ilişkin cezai cezaların sivil cezalarla değiştirilmesi ve Başsavcı’nın zarar meydana gelmeden önce yasayı uygulama yetkisinin daraltılması gibi değişiklikler de dahil olmak üzere bir dizi değişiklikle komiteden çıkarıldı. Tasarı şu anda değerlendirilmek üzere Vali Gavin Newsom’a gitmeden önce son oylamayı bekliyor.