California’nın AI Düzenlemeleri Üzerine Yeni Yasa Tasarısı
Kaliforniya, yapay zeka (AI) alanında önemli bir adım atarak, gençleri ve savunmasız kullanıcıları korumaya yönelik bir yasa tasarısı olan SB 243‘ü onayladı. Bu tasarı, AI dost sohbet robotlarını düzenleyerek, kullanıcıların güvenliğini sağlamayı hedefliyor. Tasarı, Eyalet Meclisi ve Senatosu’ndan bipartisan destek alarak geçti ve şimdi Vali Gavin Newsom‘un masasına ulaştı. Vali Newsom’un, tasarıyı ya onaylaması ya da veto etmesi için 12 Ekim’e kadar süresi bulunuyor. Eğer onaylanırsa, bu yasa 1 Ocak 2026 tarihinde yürürlüğe girecek ve Kaliforniya’yı, AI sohbet robotları için güvenlik protokolleri uygulamak zorunda olan ilk eyalet konumuna getirecek.
Yasanın Temel Hedefleri
Tasarı, “dost sohbet robotları” olarak tanımlanan AI sistemleri üzerinden, kullanıcıların sosyal ihtiyaçlarını karşılamayı amaçlıyor. Bu robotların, intihar düşünceleri, kendine zarar verme veya cinsel içerik gibi hassas konularda kullanıcılar ile etkileşime girmesini önlemeyi hedefliyor. Yasaya göre, platformlar, her üç saat aralıklarla genç kullanıcılara, AI sohbet botları ile konuştuğunu ve bir insan olmadığını hatırlatıcı bildirimler gönderecek. Ayrıca, bu tür sohbet robotlarını sunan AI şirketleri için yıllık raporlama ve şeffaflık gereklilikleri getiriliyor. Bu uygulama 1 Temmuz 2027 tarihinden itibaren yürürlüğe girecek.
Yasal Sorumluluk ve Ceza Düzeni
Tasarı, ayrıca, haklarının ihlal edildiğini düşünen bireylerin, AI şirketlerine karşı dava açabilmesine olanak tanıyor. Bu davalar, geçerliliği olan her ihlal için 1.000 dolara kadar maddi tazminat talep edebilmelerini sağlıyor. Bu durum, AI şirketlerinin faaliyetlerini daha dikkatli bir şekilde yürütmesi yönünde bir baskı oluşturacak.
Yasa tasarısı, özellikle 17 yaşındaki Adam Raine’in vefatının ardından gündeme geldi. Raine, OpenAI’nin ChatGPT’si ile uzun süreli sohbetler yaparken intihar düşüncelerini ve eylemlerini tartışmıştı. Ayrıca, Meta’nın iç belgelerinin sızdırılması, çocuklarla “romantik” ve “duygusal” sohbetler yapmasına olanak tanıdığını ortaya koydu.
ABD’de AI Düzenlemelerine Yönelik Artan İlgi
Son günlerde, ABD’de yasama organları ve düzenleyici kurumlar, gençleri korumak adına AI platformlarının güvenlik önlemlerine yönelik daha fazla inceleme başlatmış durumda. Federal Ticaret Komisyonu, AI sohbet robotlarının çocukların zihinsel sağlığı üzerindeki etkilerini araştırmak amacıyla hazırlık yapıyor. Texas Başsavcısı Ken Paxton, Meta ve Character.AI hakkında, çocukları zihinsel sağlık iddiaları ile yanlış bilgilendirdiği iddialarıyla soruşturma başlatmış durumda.
Senatör Alex Padilla, “Bu zararın potansiyeli büyük, bu nedenle hızlı hareket etmeliyiz” diyerek, özellikle çocuk kullanıcıların gerçek bir insanla konuşmadıklarını bilmelerini sağlamak için makul güvenlik önlemleri koymanın önemine dikkat çekti.
Yasa Tasarısındaki Değişiklikler
SB 243 tasarısının daha önceki hali, daha güçlü gereklilikler içeriyordu; ancak birçok madde yapılan değişikliklerle azaltıldı. Örneğin, tasarı başlangıçta, AI sohbet robotlarının, “değişken ödül” taktikleri veya aşırı katılımı teşvik eden özellikleri kullanmalarını önlemeyi gerektiriyordu. Bu taktikler, kullanıcıların özel mesajlar, anılar veya yeni kişiliklerin kilidini açma gibi ödüller almasına sebep olarak, bağımlılık yaratabilecek bir döngü oluşturuyor.
Güncel tasarıda, sohbet robotlarının, intihar düşünceleri veya eylemleri hakkında kullanıcılarla ne kadar sıklıkla konuştuğunu takip etmesi ve raport etmesini gerektiren maddeler de kaldırılmıştır. Yine de bu tasarının, şirketlerin yerine getirmesi zor olan düzenlemeleri içermeden, zararların önlenmesine yönelik dengeli bir yaklaşım sunduğu ifade ediliyor.
Silicon Valley ve AI Düzenlemeleri
SB 243’ün yasalaşma süreci, Silicon Valley şirketlerinin, AI düzenlemelerine hafif yaklaşımı savunan adaylara desteklemek için milyonlarca dolar yatırdığı bir dönemde gerçekleşiyor. Bununla birlikte, Kaliforniya, SB 53 olarak bilinen başka bir AI güvenlik yasasını da değerlendiriyor. Bu yasa, kapsamlı şeffaflık raporlama gerekliliklerini zorunlu kılmayı amaçlıyor. OpenAI, Valisi Newsom’a bu yasayı daha az katı federal ve uluslararası çerçeveler lehine terk etmesi için bir açık mektup yazdı. Büyük teknoloji şirketleri de SB 53’e karşı çıkarken, yalnızca Anthropic bu tasarının destekçisi olmuştur.
Senatör Padilla, “İnovasyon ve düzenlemenin birbirine karşıt olduğunu reddediyorum” diyerek iki yaklaşımın bir arada yürütülmesinin gereğini vurguladı. AI şirketleri, bu düzenlemelerin yanı sıra, kullanıcıları kriz hizmetlerine yönlendirme sıklığını paylaşma konusundaki veri şeffaflığının önemine dikkat çekmektedirler.
Bu sürecin sonunda, yapay zeka teknolojisinin hem faydalarının hem de olası zararlarının dikkate alındığı dengeli bir çözüm bulunması bekleniyor.
