Yapay zeka sistemlerindeki tüm ihlalleri kaydeden bir veritabanının oluşturulmasını zorunlu kılarak güvenlik sorunlarını takip etmeyi amaçlayan yeni bir yasa tasarısı Senato’ya sunuldu.
Güvenli Yapay Zeka YasasıSenatör Mark Warner (D-VA) ve Thom Tillis (R-NC) tarafından tanıtılan yeni teknoloji, Ulusal Güvenlik Teşkilatında bir Yapay Zeka Güvenlik Merkezi kuracak. Bu merkez, tasarının “karşı yapay zeka” olarak adlandırdığı şeye veya yapay zeka sistemlerinin nasıl manipüle edileceğini öğrenmeye yönelik tekniklere yönelik araştırmalara öncülük edecek. Bu merkez aynı zamanda yapay zekaya karşı önlemlerin önlenmesine yönelik rehberlik de geliştirecektir.
Tasarı aynı zamanda Ulusal Standartlar ve Teknoloji Enstitüsü (NIST) ile Siber Güvenlik ve Altyapı Güvenlik Ajansı’nın “kılpayı atlatılanlar” da dahil olmak üzere yapay zeka ihlallerine ilişkin bir veri tabanı oluşturmasını gerektirecek.
Warner ve Tillis’in önerdiği tasarı, yapay zekaya karşı koyma tekniklerine odaklanıyor ve bunları veri zehirlenmesi, kaçırma saldırıları, gizlilik temelli saldırılar ve kötüye kullanım saldırıları olarak sınıflandırıyor. Veri zehirlenmesi, bir yapay zeka modeli tarafından kazınan verilere kod eklenerek modelin çıktısını bozan bir yöntemi ifade eder. Yapay zeka görüntü oluşturucularının internette sanat kopyalamasını önlemek için popüler bir yöntem olarak ortaya çıktı. Kaçınma saldırıları, yapay zeka modelleri tarafından incelenen verileri, modelin kafasını karıştıracak kadar değiştirir.
Yapay zeka güvenliği, Biden yönetiminin, NIST’i “kırmızı ekip oluşturma” yönergeleri oluşturmaya yönlendiren ve yapay zeka geliştiricilerinin güvenlik raporları göndermesini zorunlu kılan yapay zeka yönetim emrindeki en önemli maddelerden biriydi. Kırmızı ekip oluşturma, geliştiricilerin kasıtlı olarak yapay zeka modellerinin yapmamaları gereken istemlere yanıt vermesini sağlamaya çalışmasıdır.
İdeal olarak, güçlü yapay zeka modellerinin geliştiricileri platformları güvenlik açısından test ediyor ve halka sunulmadan önce kapsamlı bir kırmızı ekip çalışmasına tabi tutuyorlar. Microsoft gibi bazı şirketler, yapay zeka projelerine güvenlik korkulukları eklemeyi kolaylaştırmaya yardımcı olacak araçlar geliştirdi.
Güvenli Yapay Zeka Yasasının daha büyük Senato tarafından ele alınabilmesi için bir komiteden geçmesi gerekecek.