Google, güvenlik açığı ödül programını (VRP), üretken yapay zekaya özel saldırı senaryolarını içerecek şekilde genişletti.
Google, yayınlanmadan önce TechCrunch ile paylaşılan bir duyuruda şunları söyledi: “VRP’nin genişletilmesinin yapay zeka güvenliği ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz.”
Google’ın güvenlik açığı ödül programı (veya hata ödülü), etik korsanlara güvenlik kusurlarını bulmaları ve sorumlu bir şekilde ifşa etmeleri için ödeme yapar.
Üretken yapay zekanın, haksız önyargı potansiyeli veya model manipülasyonu gibi yeni güvenlik sorunlarını gün ışığına çıkardığı göz önüne alındığında Google, aldığı hataların nasıl kategorize edilmesi ve raporlanması gerektiğini yeniden düşünmeye çalıştığını söyledi.
Teknoloji devi bunu yeni kurulan şirketin bulgularını kullanarak yaptığını söylüyor Yapay Zeka Kırmızı Takımı, teknolojideki güvenlik zayıflıklarını avlamak için ulus devletlerden hükümet destekli gruplardan hacktivistlere ve içerideki kötü niyetli kişilere kadar çeşitli düşmanları simüle eden bir bilgisayar korsanları grubu. Ekip yakın zamanda ChatGPT ve Google Bard gibi üretken yapay zeka ürünlerinin arkasındaki teknolojiye yönelik en büyük tehditleri belirlemek için bir çalışma gerçekleştirdi.
Ekip, büyük dil modellerinin (veya LLM’lerin), örneğin bir bilgisayar korsanının modelin davranışını etkileyebilecek rakip istemler oluşturduğu anlık enjeksiyon saldırılarına karşı savunmasız olduğunu buldu. Saldırgan bu tür saldırıları zararlı veya rahatsız edici metinler oluşturmak veya hassas bilgileri sızdırmak için kullanabilir. Ayrıca, bilgisayar korsanlarının verilerden kişisel olarak tanımlanabilir bilgileri veya şifreleri çıkarmak için birebir eğitim örneklerini yeniden yapılandırmasına olanak tanıyan, eğitim verilerinin çıkarılması adı verilen başka bir saldırı türü konusunda da uyardılar.
Bu tür saldırıların her ikisi de, model manipülasyonu ve model hırsızlığı saldırılarının yanı sıra Google’ın genişletilmiş VRP’si kapsamında yer alıyor ancak Google, hassas olmayan verileri yeniden yapılandıran telif hakkı sorunları veya veri çıkarmayla ilgili hataları ortaya çıkaran araştırmacılara ödül sunmayacağını söylüyor. veya kamuya açık bilgiler.
Parasal ödüller, keşfedilen güvenlik açığının ciddiyetine göre değişecektir. Araştırmacılar, Google Arama veya Google Play gibi son derece hassas uygulamalarda komut ekleme saldırıları ve seri durumdan çıkarma hataları bulurlarsa şu anda 31.337 ABD doları kazanabilirler. Kusurların daha düşük önceliğe sahip uygulamaları etkilemesi durumunda maksimum ödül 5.000 ABD dolarıdır.
Google, 2022’de güvenlik araştırmacılarına 12 milyon dolardan fazla ödül ödediğini söylüyor.