Üretken yapay zekanın hükümetleri ve düzenleyicileri endişesi var. Önyargı, yanlış bilgi ve siber suçlar, büyük dil modellerinin (LLM’ler) oluşturduğu diğer çeşitli ‘tehditlerin’ arasında yer almaktadır ve kullanıcıları karmaşık yapay zeka suçlarından korumak için, Google hata ödül programının genişletildiğini duyurdu.
“Bugün, üretken yapay zekaya özel saldırı senaryolarını ödüllendirmek için Güvenlik Açığı Ödül Programımızı (VRP) genişletiyoruz. Bunun yapay zeka güvenliği ve emniyeti konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek olası sorunları gün ışığına çıkaracağına inanıyoruz” dedi Google.
VRP nedir?
Google’ın VRP’si, potansiyel olarak çevrimiçi kullanıcılara saldırmak için kullanılabilecek güvenlik açıklarını, hataları veya kusurları tespit etmeyi başaran, kendi kuruluşu dışındaki güvenlik araştırmacılarını ödüllendiren bir programdır. Yapay zekanın benimsenmesindeki artışla birlikte Google, VRP’nin artık yapay zekaya özgü saldırılara ve kötü niyetli fırsatlara da odaklanacağını söyledi.
Bu, şirketin bu yılın başında Beyaz Saray’da diğer önde gelen yapay zeka şirketleriyle yaptığı işbirliğiyle, yapay zeka sistemlerindeki güvenlik açıklarının keşfini ilerletme taahhüdüyle uyumlu.
VRP için güncellenmiş yönergeler
Şirket ayrıca hangi keşiflerin ödüle hak kazandığını ve hangilerinin kapsam dışı olduğunu ayrıntılarıyla açıklayan güncellenmiş yönergeler yayınladı.
Örneğin, bir güvenlik araştırmacısı özel, hassas bilgileri sızdıran eğitim verilerinin çıkarılmasının kapsam dahilinde olduğunu keşfederse ancak yalnızca genel, hassas olmayan verileri gösteriyorsa ödül almaya hak kazanamaz. Google geçen yıl güvenlik araştırmacılarına hata keşifleri için 12 milyon dolar verdiğini söyledi.
Google, “Üretken yapay zeka, haksız önyargı potansiyeli, model manipülasyonu veya verilerin yanlış yorumlanması (halüsinasyonlar) gibi geleneksel dijital güvenliğe kıyasla yeni ve farklı endişeleri gündeme getiriyor” dedi ve bu potansiyel riskleri daha iyi tahmin etmek ve test etmek için çalıştığını ekledi.
Google ayrıca “AI tedarik zinciri güvenliği hakkındaki bilgileri evrensel olarak keşfedilebilir ve doğrulanabilir hale getirmek için açık kaynak güvenlik çalışmalarını genişletiyor.”
FacebookheyecanLinkedIn
makalenin sonu