Anthropic ve SB 53: Kaliforniya’nın AI Düzenleme Tasarısı Üzerine Resmi Destek
Pazartesi günü, Anthropic, Kaliforniya Eyalet Senatörü Scott Wiener tarafından önerilen SB 53 isimli tasarıyı resmen destekledi. Bu tasarı, dünyadaki en büyük AI model geliştiricileri için ilk kez şeffaflık gereklilikleri getirmektedir. Anthropic’in bu desteği, SB 53 için nadir bir kazanım olarak öne çıkıyor. Bu süreçte, CTA ve Chamber for Progress gibi büyük teknoloji gruplarının tasarıya karşı lobi faaliyetleri yürüttüğü de göz önünde bulundurulmalıdır.
Anthropic, bir blog yazısında, “Sınır AI güvenliği en iyi şekilde federal düzeyde ele alınmalı ancak güçlü AI gelişmeleri, Washington’daki bir uzlaşıyı beklemeyecek,” ifadelerini kullandı. “Soru, AI yönetimine ihtiyacımız olup olmadığı değil, onu bugün düşünceli bir şekilde mi geliştireceğimiz yoksa yarın reaktif bir şekilde mi tepki vereceğimizdir. SB 53, ilkini gerçekleştirmek için sağlam bir yol sunuyor.”
SB 53’ün İçeriği ve Önemi
Eğer kabul edilirse, SB 53, OpenAI, Anthropic, Google ve xAI gibi öncü AI modeli geliştiricilerinin, güçlü AI modellerini dağıtmadan önce güvenlik çerçeveleri geliştirmelerini zorunlu kılacak. Ayrıca, bu tasarı, güvenlik endişeleriyle gelen çalışanlara whistleblower korumaları sağlanmasını da öngörüyor.
Senatör Wiener’in tasarısı, AI modellerinin “felaket risklerine” katkıda bulunmalarını sınırlamaya odaklanmakta. Felaket riskleri, en az 50 kişinin ölümü ya da bir milyar dolardan fazla zararı içeren durumlar olarak tanımlanıyor. SB 53, AI riskinin aşırı yüzünü hedef alarak, AI modellerinin biyolojik silahların oluşturulmasında veya siber saldırılarda uzman seviyesinde yardım sağlayamamasını amaçlıyor.
Kamuoyunda Tartışmalar ve Tepkiler
Kaliforniya Senatosu, SB 53’ün önceki bir versiyonunu onayladı; ancak, tasarının eyalet valisine gitmeden önce son bir oylamadan daha geçmesi gerekiyor. Eyalet Valisi Gavin Newsom, şimdiye kadar tasarı hakkında sessiz kalmış olsa da, daha önce Senatör Wiener’ın geçen AI güvenlik tasarısı SB 1047’yi veto etmişti.
Sınır AI model geliştiricilerini düzenleyen tasarılar, Silicon Valley ve Trump yönetimi tarafından ciddi bir itirazla karşılaştı. Bu gruplar, böyle çabaların Amerika’nın Çin ile olan inovasyon yarışını kısıtlayabileceğini savunuyor. Andreessen Horowitz ve Y Combinator gibi yatırımcılar, SB 1047’ye karşı çıkarak lobi faaliyetleri yürütmüşlerdi.
Federal ve Eyalet Düzenlemeleri Üzerine Tartışmalar
AI güvenliği tasarıları aleyhinde en yaygın argümanlardan biri, konunun federal hükümet tarafından ele alınması gerektiğidir. Andreessen Horowitz’in AI Politika Şefi Matt Perault ve Genel Hukuk Müşaviri Jai Ramaswamy, geçtiğimiz hafta bir blog yazısı yayınlayarak, pek çok eyalet AI tasarısının Anayasa’nın Ticaret Maddesini ihlal etme riski taşıdığını dile getirdi.
Bununla birlikte, Anthropic’in kurucu ortağı Jack Clark, X platformunda yaptığı paylaşımda, teknoloji endüstrisinin önümüzdeki yıllarda güçlü AI sistemleri geliştireceğini ve federal hükümetin harekete geçmesini bekleyemeyeceğini belirtti. “Her zaman bir federal standarttan yana olduğumuzu söyledik,” dedi Clark. “Ama bunun olmaması, göz ardı edilemeyecek sağlam bir AI yönetim planı oluşturuyor.”
OpenAI ve Eleştiriler
OpenAI’nin Küresel İlişkiler Müdürü Chris Lehane, Ağustos ayında Vali Newsom’a bir mektup göndererek, tasarının California’daki girişimleri zorlaştırabilecek herhangi bir AI düzenlemesinin geçmemesi gerektiğini savundu. Ancak bu mektup SB 53’ü doğrudan hedef almıyordu.
OpenAI’nin eski Politika Araştırma Şefi Miles Brundage, X platformunda Lehane’nin mektubunu “SB 53 ve AI politikası hakkında yanıltıcı bilgilere dolu” olarak tanımladı. Dikkat çekici bir şekilde, SB 53 yalnızca 500 milyon dolardan fazla brüt gelir elde eden en büyük AI şirketlerini düzenlemeyi hedefliyor.
SB 53 ve Politika Uzmanlarının Yorumları
Eleştirilere rağmen, politika uzmanları SB 53’ün önceki AI güvenlik tasarılarına göre daha mütevazı bir yaklaşım sergilediğini belirtiyor. Dean Ball, Amerikan İnovasyon Vakfı’nda kıdemli araştırmacı olarak görev yapmaktadır. Ball, SB 53’ün şimdi yasa olma şansının iyi olduğunu düşündüğünü ifade etti. Daha önce SB 1047’yi eleştiren Ball, SB 53’ün teknik gerçekliğe saygı gösterdiğini ve bir tür meclis ihtiyatı ile tasarlandığını belirtti.
Senatör Wiener, SB 53’ün, Vali Newsom’un düzenlemeleri konusunda danışmanlık yaptığı bir uzman panelinin etkisi altında hazırlandığını önceden belirtmişti. Bu panel, önde gelen Stanford araştırmacısı Fei-Fei Li tarafından yönetilmekteydi.
Mevcut AI laboratuvarlarının zaten içsel bir güvenlik politikası türüne sahip olduğunu belirtmek önemlidir. OpenAI, Google DeepMind ve Anthropic, düzenli olarak modellerinin güvenlik raporlarını yayınlamaktadır. Ancak, bu şirketler kendileri dışında hiç kimse tarafından bağlayıcı bir sorumluluğa sahip değildir ve bazen kendi kendilerine koydukları güvenlik taahhütlerinde geride kalabilmektedirler. SB 53, bu gereklilikleri eyalet yasası olarak belirlemeyi, uyum sağlamadıkları takdirde mali sonuçlarla karşılaşmayı hedefliyor.
Eylül ayının başlarında, Kaliforniya yasama organları, AI model geliştiricilerinin üçüncü taraflar tarafından denetlenmesini zorunlu kılacak olan bir bölümü tasarıdan çıkardı. Teknoloji şirketleri, bu tür üçüncü taraf denetimlerini geçmişteki AI politika savaşlarında aşırı yük getirdiği gerekçesiyle karşı çıkmışlardı.
