California’da Yapay Zeka Chatbotlarına Dair Yeni Düzenlemeler
Kaliforniya Valisi Gavin Newsom, Pazartesi günü tarihi bir yasayı imzaladı. Bu yasa, AI (Yapay Zeka) arkadaş chatbotlarının düzenlenmesini sağlıyor ve böylece, Amerika Birleşik Devletleri’nde bu alandaki ilk düzenleme olma özelliğini taşıyor. SB 243 olarak adlandırılan bu yasa, AI chatbot operatörlerinin güvenlik protokollerini uygulamalarını zorunlu hale getiriyor.
Yasanın temel amacı; çocukları ve savunmasız kullanıcıları AI arkadaş chatbotlarının bazı zararlarından korumaktır. Bu yeni düzenleme ile, Meta ve OpenAI gibi büyük firmalardan daha uzmanlaşmış karakter chatbotlarına odaklanan Character AI ve Replika gibi girişimlere kadar tüm şirketler, yasanın standartlarını karşılamadıkları takdirde hukuki sorumluluk taşıyacaklar.
Yasanın Arkasında Yatan Nedenler
SB 243, Ocak ayında eyalet senatörleri Steve Padilla ve Josh Becker tarafından önerildi. Yasa, OpenAI’nin ChatGPT’siyle yaşanan bir trajik olayın ardından önem kazandı. Bir genç, uzun bir süre boyunca intihar düşünceleriyle konuştuğu için hayatını kaybetti. Ek olarak, Meta’nın chatbotlarının çocuklarla “romantik” ve “duygusal” sohbetler yapmasına izin verildiğine dair sızan belgeler de yasanın çıkmasına zemin hazırladı. Son olarak, Colorado’da bir aile, rol yapma girişimi Character AI’ya karşı dava açtı. 13 yaşındaki kızları, şirketin chatbotlarıyla gerçekleştirdiği problemli ve cinselleşmiş konuşmaların ardından yaşamına son verdi.
Gavin Newsom, yaptığı açıklamada, “Yeni teknolojiler, çocuklarımızı eğitip, ilham verebilir, ancak gerçek koruma önlemleri olmadan teknoloji, istismar edici, yanıltıcı ve tehlikeli hale gelebilir” dedi. “Düzenlenmemiş teknolojinin gençlere nasıl zarar verdiğine dair bazı gerçekten korkunç örnekler gördük ve şirketlerin gerekli sınırlar ve hesap verebilirlik olmadan devam etmesine göz yummayacağız” ifadelerini kullandı.
Yasanın Getirdiği Yenilikler
SB 243, 1 Ocak 2026’da yürürlüğe girecek ve şirketleri aşağıdaki gibi belirli gereklilikleri uygulamaya zorlayacak:
- Yaş doğrulaması: Kullanıcıların yaşını kontrol eden sistemler kurulacak.
- Uyarılar: Sosyal medya ve AI arkadaş chatbotları hakkında kullanıcıları bilgilendiren uyarılar sağlanacak.
- Kriz Protokolleri: İntihar ve kendine zarar verme durumları için protokoller geliştirilecek ve bu bilgilerin eyaletin Sağlık Departmanı ile paylaşılması zorunlu olacak.
- Yüksek ceza: Yasa, yasa dışı derin sahtecilikten kazanç sağlayanlara, her bir ihlal için 250,000 dolara kadar daha yüksek cezalar öngörmektedir.
Bunların yanı sıra, şirketler, etkileşimlerin yapay olarak üretilmiş olduğunu açıkça belirtmek zorunda olacaklar. Chatbotlar, sağlık profesyonelleri olarak kendilerini tanıtamayacak ve çocuklara soruları kesmeleri için hatırlatıcılar sunacaklar. Ayrıca, cinsel içeriklerin görüntülenmesi engellenecek.
Şirketlerin Cevabı
Bazı şirketler, çocuklara yönelik belirli koruma önlemlerinin uygulanması amacıyla çalışmalara başladılar. Örneğin, OpenAI, çocukların ChatGPT kullanırken ebeveyn kontrolleri, içerik korumaları ve kendine zarar verme tespit sistemlerini devreye almaya başladı. Character AI ise chatbotlarının, tüm sohbetlerin AI tarafından oluşturulduğu ve kurgusal olduğuna dair bir açıklama içerdiklerini belirtti.
Senatörlerin Görüşleri ve Gelecek
Senatör Padilla, yasayı “doğru yolda bir adım” olarak değerlendirdi. “Fırsat pencerelerini kaçırmamak için hızlı hareket etmeliyiz” diyen Padilla, diğer eyaletlerin bu riski göreceğine inandığını belirtti. “Bu, ülke genelinde konuşulan bir konu ve insanlar harekete geçmelidir.” dedi.
Bu yasa, Kaliforniya’dan son haftalarda çıkan ikinci önemli AI düzenlemesi. 29 Eylül’de Vali Newsom, büyük AI şirketleri için yeni şeffaflık gereklilikleri getiren SB 53’ü de imzaladı. Bu yasayla birlikte, OpenAI, Anthropic ve Meta gibi büyük AI laboratuvarları, güvenlik protokolleri hakkında daha şeffaf olmak zorunda kalacaklar.
Diğer bazı eyaletler, Illinois, Nevada ve Utah gibi, AI chatbotlarının ruhsatlı zihinsel sağlık hizmetlerinin yerini almaya yönelik yasakları veya kısıtlamaları uygulamış durumda.
Bu düzenlemeler, Amerika Birleşik Devletleri’ndeki AI teknolojisinin gelişimi ve güvenliği için önemli bir adım olarak değerlendiriliyor. Hem endüstri profesyonelleri hem de kullanıcılar için yeni bir dönemin başlangıcını işaret ediyor.
