Kaliforniya Senatosu, AI Şirketlerine Güvenlik Protokolleri Yayınlama Zorunluluğu Getiriyor
Kaliforniya Eyalet Senatörü Scott Wiener, Çarşamba günü, dünyanın en büyük Yapay Zeka (AI) şirketlerinin güvenlik protokollerini yayınlamasını ve güvenlik olayları meydana geldiğinde rapor vermesini gerektiren yeni değişiklikleri içeren son tasarısını, SB 53’ü tanıttı. Eğer bu tasarı yasalaşırsa, Kaliforniya, lider AI geliştiricilerine anlamlı şeffaflık gereksinimleri getiren ilk eyalet olma yolunda önemli bir adım atmış olacak. Bu şirketler arasında OpenAI, Google, Anthropic ve xAI de bulunuyor.
Önceki Tasarılar ve Mücadeleler
Senatör Wiener’ın önceki AI tasarısı, SB 1047, AI model geliştiricilerinin güvenlik raporları yayınlamasını da içeren benzer gereklilikler içeriyordu. Ancak, Silikon Vadisi bu tasarıyı şiddetle karşı çıkmış ve sonrasında Kaliforniya Valisi Gavin Newsom tarafından veto edilmiştir. Vali Newsom, ardından, önde gelen Stanford araştırmacısı ve World Labs kurucu ortaklarından Fei Fei Li de dahil olmak üzere bir grup AI lideri oluşturulmasını istemiştir. Bu grup, eyaletin AI güvenlik çabaları için hedefler belirlemek üzere bir araya gelmiştir.
Bu politika grubunun son raporunda, endüstrinin, sistemleri hakkında bilgi yayınlaması için gereksinimlerin oluşturulması gerektiği vurgulanmıştır. Senatör Wiener’ın ofisi, SB 53’ün değişikliklerinin büyük ölçüde bu rapordan etkilendiğini belirtti. Wiener, “Tasarı hâlâ bir çalışma sürecinde ve tüm paydaşlarla birlikte çalışmayı dört gözle bekliyorum” dedi.
SB 53 Tasarısının Hedefleri
SB 53, Valisi Newsom’un SB 1047’nin başaramadığını iddia ettiği bir denge kurmayı hedefliyor. Böylece, Kaliforniya’nın AI endüstrisinin hızlı büyümesini engellemeksizin, en büyük AI geliştiricileri için anlamlı şeffaflık gereksinimleri oluşturulmuş olacak. Nathan Calvin, nonprofit AI güvenlik grubu Encode’nin Eyalet İşleri Başkan Yardımcısı olarak yaptığı açıklamada, şirketlerin kamuya ve hükümete aldıkları önlemleri açıklamalarının, atılacak en makul ve gerekli adımlardan biri olduğunu belirtti.
İstihbarat ve Koruma Mekanizmaları
Tasarının bir diğer önemli özelliği ise, AI laboratuvarlarındaki çalışanlar için “kritik risk” içeren durumları bildirme hakkı tanıyan ihbar korumaları sağlamasıdır. Bu riskler, tasarıda 100’den fazla insanın ölümüne veya yaralanmasına ya da 1 milyardan fazla dolarlık zarara yol açmak olarak tanımlanmıştır. Ayrıca, tasarı, büyük ölçekli AI geliştiren girişimler ve araştırmacılar için kamuya açık bir bulut bilişim kümesi oluşturmayı amaçlamaktadır ve bu yapı CalCompute adını alacaktır.
Yeni tasarı, AI model geliştiricilerinin AI modellerinin zararlarından sorumlu tutulmamalarını sağlaması bakımından SB 1047’den farklıdır. Bu durum, lider AI geliştiricilerden model incelemek veya açık kaynak modeller kullanmak isteyen girişim ve araştırmacılar üzerinde bir yük oluşturmayacak şekilde tasarlanmıştır.
Mevcut Durum ve Gelecekteki Gelişmeler
Yeni değişikliklerle birlikte SB 53, Kaliforniya Eyalet Meclisi’nin Gizlilik ve Tüketici Koruma Komitesi‘ne onay için yollandı. Onay alması halinde, tasarının başka birkaç yasama organından da geçmesi gerekecek. ABD’nin diğer bir köşesinde ise New York Valisi Kathy Hochul, büyük AI geliştiricilerinin güvenlik raporları yayınlamasını gerektiren benzer bir AI güvenlik tasarısı olan RAISE Act’ı göz önünde bulunduruyor.
Kamuoyunda AI yasalarının durumu, eyalet AI düzenlemeleri hakkında 10 yıllık bir moratoryum önerisi gündemdeyken belirsizlik altındaydı. Ancak bu öneri, Temmuz ayında Senato’da 99-1 oyla reddedildi. Geoff Ralston, eski Y Combinator başkanı olarak yaptığı açıklamada, “Yapay zekanın güvenli bir şekilde geliştirilmesi tartışmalı olmamalıdır; bu temel bir gereklilik olmalıdır” şeklinde görüş bildirdi.
Şirketlerin Şeffaflık Zorunluluğu Üzerine
Bugüne kadar yasa koyucular, eyalet tarafından zorunlu kılınan şeffaflık gerekliliklerini AI şirketlerine kabul ettirmekte zorlandılar. Anthropic, AI şirketlerinde artan şeffaflık ihtiyacını genel olarak kabul etmiş ve Kaliforniya’nın AI politika grubunun önerileri hakkında umutlu olduğunu ifade etmiştir. Ancak OpenAI, Google ve Meta gibi diğer şirketler, bu çabalara karşı daha dirençli bir tutum sergilemişlerdir.
Genel olarak, önde gelen AI model geliştiricilerinin güvenlik raporları yayınladıkları bilinmektedir, ancak son aylarda bu uygulama tutarsızlıklar göstermiştir. Örneğin, Google, en gelişmiş AI modeli olan Gemini 2.5 Pro için güvenlik raporunu, model piyasaya sürüldükten aylar sonra yayınlamaya karar verdi. OpenAI de GPT-4.1 modeli için benzer bir karar alarak güvenlik raporu yayınlamadı. Bu durum, sorgulanabilir bir durumu beraberinde getirdi.
Sonuç olarak, SB 53, önceki AI güvenlik yasalarının daha ılımlı bir versiyonu olmasına rağmen, AI şirketlerini bugün olduğundan daha fazla bilgi açıklamaya zorlayabilir. Şimdi gözler, Senatör Wiener’ın bu sınırları yeniden test etmeye başladığına çevrildi.
