MITRE’nin Tehdit Bilgili Savunma Merkezi, bu hafta AI Olay Paylaşımı girişiminin başlatıldığını duyurdu. Yapay zeka destekli sistemler için tehditler ve savunmalar.
Olay paylaşımı girişimi, merkezin Güvenli Yapay Zeka projesinin kapsamına giriyor ve yapay zeka destekli sistemleri içeren tehditler, saldırılar ve kazalar konusunda hızlı ve güvenli işbirliği sağlamayı amaçlıyor. Erişim alanını genişletir MITRE ATLAS topluluk bilgi tabanıİki yıldır anonim olaylara ilişkin verileri toplayan ve karakterize eden. Bu girişim kapsamında, işbirlikçilerden oluşan bir topluluk, gerçek dünyadaki yapay zeka olaylarına ilişkin korumalı ve anonimleştirilmiş veriler alacak.
Olaylar şu adresten iletilebilir: ağ (saatte https://ai-incidents.mitre.org/) herhangi biri tarafından. Veriye dayalı risk istihbaratı ve geniş ölçekte analiz sağlamak amacıyla başvuruda bulunan kuruluşlar üyelik için değerlendirilecektir.
Secure AI ayrıca ATLAS tehdit çerçevesini, üretken yapay zeka destekli sistem tehdit ortamı hakkındaki bilgileri içerecek şekilde genişletti ve birkaç yeni üretken yapay zeka odaklı örnek olay incelemesi ve saldırı tekniğinin yanı sıra bu sistemlere yönelik saldırıları azaltmaya yönelik yeni yöntemler ekledi. Kasım 2023’te Microsoft ile işbirliği içinde MITRE, üretken yapay zekaya odaklanan ATLAS bilgi tabanında güncellemeler yayınladı.
MITRE Labs başkan yardımcısı Douglas Robbins, “Olaylar hakkında standartlaştırılmış ve hızlı bilgi paylaşımı, tüm topluluğun bu tür sistemlerin kolektif savunmasını geliştirmesine ve dış zararları hafifletmesine olanak tanıyacak” dedi. ifade.
MITRE, havacılıktaki tehlikeleri tanımlamak ve önlemek amacıyla veri ve emniyet bilgilerinin paylaşılması için Havacılık Emniyeti Bilgi Analizi ve Paylaşımı veri tabanı ile benzer bir bilgi paylaşımı kamu özel ortaklığı yürütmektedir.
Finansal hizmetler, teknoloji ve sağlık hizmetlerinden temsilcilerle birlikte Güvenli Yapay Zeka alanındaki işbirlikçileri sektörleri kapsamaktadır. Listede AttackIQ, BlueRock, booz Allen Hamilton, CATO Networks, Citigroup, Cloud Security Alliance, CrowdStrike, FS-ISAC, Fujitsu, HCA Healthcare, HiddenLayer, Intel, JPMorgan Chase Bank, Microsoft, Standard Chartered ve Verizon Business yer alıyor.