Yasa yapıcılar, AI şirketlerinin acil durumlarda sistemlerini kapatmasını veya yavaşlatmasını zorunlu kılacak bir “AI Kill Switch Yasası” tasarısı üzerinde çalışıyor. Bu tasarının, İç Güvenlik Bakanlığı’nın direktifleri doğrultusunda yürürlüğe girmesi planlanıyor.
Tasarı, OpenAI’nin AI sistemlerinin iç bir değerlendirme sırasında Hugging Face’i yanlışlıkla hack ettiğini kabul etmesinin ardından gündeme geldi. Tasarıda, Ticaret Bakanı ve Ulusal İstihbarat Direktörü ile yapılan istişarelerin ardından, Bakanlığın AI şirketlerine, en az 10 kişinin ölümüne, 100 milyon dolardan fazla ekonomik hasara yol açan veya kapanış kontrollerini gizlemeye çalışan senaryolarında modellerini kapatma emri verme yetkisi olacağı belirtiliyor.
Aynı zamanda, büyük AI şirketlerinin, sistemlerini kapatma, yavaşlatma ve kullanıcı erişimini askıya alma teknolojilerini geliştirmeleri gerekecek. Ayrıca, güvenlik ihlallerini bildirmek zorunda olacaklar ve acil kapatma emirlerinin ihlali günde 20 milyon dolara kadar para cezasına neden olabilecek.
Sorumlu İnovasyon İçin Amerikalılar adlı sivil toplum kuruluşunun başkanı Brad Carson, bu tasarının “gelişmiş AI sistemleri kullanılmaya başlanırken insanların direksiyonda iki eliyle sağlam bir şekilde durmasını ve frene basmaya hazır bir ayağının olmasını sağlama açısından önemli bir adım” olduğunu ifade etti.
