Dünya Çapında Açık Uygulama Güvenliği Projesi (OWASP), kuruluşların büyük dil modellerinin (LLM) ve üretken yapay zeka uygulamalarının benimsenmesi, konuşlandırılması ve yönetimiyle ilişkili riskleri tanımlamasına ve yönetmesine yardımcı olacak yeni güvenlik kılavuzu materyallerini duyurdu.
Kılavuz, küresel, topluluk liderliğindeki açık kaynaklı bir proje olan OWASP LLM Uygulama Güvenliği Projesi için En İyi 10’un bir parçasıdır. Grup, 2023’teki kuruluşundan bu yana kuruluşların yönetim, işbirliği ve pratik araçları kapsayan kapsamlı bir strateji geliştirmelerine yardımcı olmak için araştırma, rehberlik ve kaynak materyalleri yayınladı.
Deepfake Etkinliklerine Hazırlanma ve Yanıt Verme Kılavuzu “aşırı gerçekçi dijital sahteciliklerin” ortaya çıkardığı sorunları göstermektedir. Yapay Zeka Siber Tehdit İstihbaratı girişiminin bir sonucu olan bu kaynak, deepfake teknolojisi geliştikçe kuruluşların güvende kalmasına yardımcı olmak için pratik ve pragmatik savunma stratejilerini birleştirir.
Mükemmeliyet Merkezi Rehberi işletmelerin yapay zeka güvenlik uygulamaları oluşturmaya yönelik en iyi uygulamaları ve çerçeveleri oluşturmasına yardımcı olur. Kılavuz, güvenlik, hukuk, veri bilimi ve operasyon ekipleri arasındaki risk yönetimi ve departmanlar arası koordinasyona yönelik sistemlerin yanı sıra güvenlik politikasının nasıl geliştirilip uygulanacağının ve personelin yapay zeka güvenliği konusunda nasıl eğitileceğinin gösterilmesine yardımcı olur.
Yapay Zeka Güvenlik Çözümü Ortamı Kılavuzu hem açık kaynak hem de ticari LLM ve üretken yapay zeka uygulamalarının nasıl güvence altına alınacağına ilişkin geniş bir referanstır. Mevcut ve yeni ortaya çıkan güvenlik ürünlerini kategorilere ayırıyor ve İlk 10 listesinde tanımlanan riskler hakkında nasıl düşünülmesi gerektiği konusunda rehberlik sağlıyor.
Proje, LLM açıklarını ve hafifletici önlemleri belirlemek için dünya çapındaki şirket ve kuruluşlardan 500’den fazla siber güvenlik ve yapay zeka uzmanını bir araya getiriyor. 2024’ün başlarında proje, geliştiriciler, veri bilimcileri ve diğer güvenlik uygulayıcılarının yanı sıra CISO’lar ve uyumluluk görevlileri gibi stratejik paydaşları da kapsayacak şekilde odağını genişletti.
“Üretken yapay zeka patlamasının ikinci yılındayız ve saldırganlar daha akıllı ve daha hızlı olmak için yapay zekayı kullanıyor. Güvenlik liderleri ve yazılım geliştiricilerin de aynısını yapması gerekiyor. Yeni kaynaklarımız, kuruluşları giderek bunların önünde kalabilmek için ihtiyaç duydukları araçlarla donatıyor OWASP LLM Projesi için En İyi 10 proje lideri Steve Wilson bir açıklamada şunları söyledi:
