Google, Güvenlik Açığı Ödül Programını genişlettiğini duyurdu (VRP), yapay zeka emniyetini ve güvenliğini artırmak amacıyla üretken yapay zeka (AI) sistemlerine göre uyarlanmış saldırı senaryoları bulmaları nedeniyle araştırmacılara tazminat ödemek.
Google’dan Laurie Richardson ve Royal Hansen, “Üretken yapay zeka, haksız önyargı potansiyeli, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenliğe kıyasla yeni ve farklı endişeleri gündeme getiriyor.” söz konusu.
Kapsama giren kategorilerden bazıları katmak hızlı enjeksiyonlar, eğitim veri kümelerinden hassas verilerin sızması, model manipülasyonu, yanlış sınıflandırmayı tetikleyen düşmanca tedirginlik saldırıları ve model hırsızlığı.
Google’ın bu temmuzun başlarında bir girişim başlattığını belirtmekte fayda var. Yapay Zeka Kırmızı Takımı Güvenli Yapay Zeka Çerçevesinin bir parçası olarak yapay zeka sistemlerine yönelik tehditlerin ele alınmasına yardımcı olmak (SAIF).
Yapay zekayı güvence altına alma taahhüdünün bir parçası olarak, Yazılım Eserleri için Tedarik Zinciri Düzeyleri (SLSA) ve Sigstore gibi mevcut açık kaynaklı güvenlik girişimleri aracılığıyla yapay zeka tedarik zincirini güçlendirme çabaları da duyuruldu.
Google, “Kullanıcıların yazılıma müdahale edilmediğini veya yazılımın değiştirilmediğini doğrulamasını sağlayan Sigstore’dakiler gibi dijital imzalar” dedi. söz konusu.
“Bize yazılımın içinde ne olduğunu ve nasıl oluşturulduğunu anlatan SLSA kaynağı gibi meta veriler, tüketicilerin lisans uyumluluğunu sağlamasına, bilinen güvenlik açıklarını tespit etmesine ve daha gelişmiş tehditleri tespit etmesine olanak tanıyor.”
Geliştirme OpenAI olarak geliyor açıklanmış Siber güvenlik, kimyasal, biyolojik, radyolojik ve nükleer (KBRN) tehditleri kapsayan üretken yapay zekaya yönelik yıkıcı risklere karşı “izlemek, değerlendirmek, tahmin etmek ve korumak” için yeni bir dahili Hazırlık ekibi.
Anthropic ve Microsoft’un yanı sıra iki şirket de bir 10 milyon $ Yapay Zeka Güvenlik FonuYapay zeka güvenliği alanındaki araştırmaları teşvik etmeye odaklandı.
