YORUM
Yapay zeka teknolojisinin hızla benimsenmesi, yapay zeka uzmanları, politika yapıcılar, teknoloji endüstrisi devleri, uluslar ve dünya liderleri arasında ciddi siber endişelere yol açtı. Buna yanıt olarak Siber Güvenlik ve Altyapı Ajansı (CISA), 2023–2024 “Yapay Zeka için CISA Yol Haritası” tarafından yönlendirildiği şekilde yapay zekanın güvenli ve güvenilir bir şekilde geliştirilmesini ve kullanılmasını sağlamak amacıyla Beyaz Saray Kararnamesi 14110.
CISA “2023–2025 Stratejik Planı” Amerikan halkı için güvenli ve dayanıklı bir altyapı sunma misyonuyla. Yapay zeka yol haritası, stratejik planda vurgulanan aynı dört hedefin bir uyarlamasıdır:
-
Siber savunma: Yapay zeka sistemleri kuruluşların yeni ortaya çıkan ve gelişmiş siber tehditlere karşı savunmalarını geliştirmelerine yardımcı olabilirken, yapay zeka tabanlı yazılım sistemleri risk sayısı sağlam bir şey gerektirir Yapay zeka savunması. Yol haritası, yapay zekanın faydalı kullanımını teşvik etmeyi ve aynı zamanda ülkenin sistemlerini yapay zeka tabanlı tehditlerden korumayı amaçlıyor.
-
Risk azaltma ve dayanıklılık: Kritik altyapı Kuruluşlar kendi siber dayanıklılıklarını korumak ve güçlendirmek için yapay zeka sistemlerini giderek daha fazla kullanıyor. CISA, yol haritasıyla yapay zeka tabanlı yazılım sistemlerinin sorumlu ve risk bilinciyle benimsenmesini teşvik etmeyi amaçlıyor: “tasarım gereği güvenli” — güvenliğin, bir ürünün geliştirme yaşam döngüsünün tasarım aşamasında uygulandığı ve böylece istismar edilebilir kusurların kaynağında azaltılabileceği yer.
-
Operasyonel işbirliği: Yapay zeka teknolojisi çoğaldıkça, ABD vatandaşları ve kritik altyapı sektörleri, kuruluşların, kolluk kuvvetlerinin ve uluslararası ortakların bilgi paylaşımını ve koordineli yanıtlarını gerektirebilecek hedefli tehditlere maruz kalabilir. CISA, ilgili paydaşlar arasında uyum ve koordinasyonun iyileştirilmesine yardımcı olacak bir çerçeve geliştirmeyi planlamaktadır.
-
Ajans birleştirme: CISA, AI yazılım sistemlerini kurum genelinde birleştirmeyi ve entegre etmeyi amaçlıyor, bu da AI sistemlerini daha tutarlı bir şekilde kullanmasına yardımcı olacak. CISA ayrıca yapay zeka sistemlerinden en iyi şekilde yararlanabilecek bir iş gücünü işe almayı ve geliştirmeyi planlıyor.
Yapay Zeka Yol Haritası, Güvenlik Yükümlülüğünü Yapay Zeka Tüketicilerine Değil, Yapay Zeka Geliştiricilerine Yüklüyor
Geçmişte yapay zeka yazılım üreticileri, tasarım gereği güvenli ürünler oluşturmaya direnmiş ve güvenlik yükünü yapay zeka tüketicilerinin sırtına yüklemişti. CISA AI yol haritası, AI sistemi üreticilerinin tüm geliştirme yaşam döngüsü boyunca tasarım açısından güvenli ilkeleri benimsemesini zorunlu kılmaktadır. Bu, tasarım yoluyla güvenliği en önemli iş önceliği haline getirmeyi, müşteriler için güvenlik sonuçlarının sorumluluğunu üstlenmeyi ve ürün geliştirmeyi radikal şeffaflık ve hesap verebilirlikle yönetmeyi içerir.
CISA Belirtilen Hedeflerine Ulaşmak İçin Beş Çaba Hattını Uygulamayı Planlıyor
CISA, yukarıdaki yol haritasını birleştirmek ve hızlandırmak için beş çaba hattı belirledi:
-
Yapay zekanın sorumlu kullanımı: CISA, siber savunmaları güçlendirmek ve kritik altyapıyı desteklemek için yapay zeka destekli yazılım araçlarını kullanmayı planlıyor. Tüm sistemler ve araçlar, CISA’nın yapay zeka ile ilgili sistemlerin sorumlu, güvenli, etik ve kullanımının güvenli olmasını sağlayacağı sıkı bir seçim sürecinden geçecektir. CISA ayrıca yalnızca federal satın alma süreçleri, geçerli yasa ve politikalar, gizlilik ve sivil haklar ve özgürlüklerle tutarlı olmakla kalmayacak, aynı zamanda güvenli bir şekilde entegre olmak için BT güvenlik uygulamalarını gözden geçirirken yapay zeka modellerinin sürekli değerlendirilmesine yönelik bir yaklaşım benimseyecek sağlam yönetişim süreçlerini de uygulayacaktır. Teknoloji.
-
Yapay zeka sistemlerine güvence verin: CISA, daha güvenli ve dayanıklı yapay zeka yazılım geliştirme ve uygulaması oluşturmak için, tasarım gereği güvenli girişimlerde bulunulması, geniş bir yelpazedeki paydaşlar (örneğin, federal sivil hükümet kurumları, özel sektör şirketleri, eyalet, yerel, kabile ve bölgesel hükümetler) için en iyi güvenlik uygulamaları ve rehberlik geliştirilmesi ve bir güvenlik açığı açıklama sürecini belirterek güçlü güvenlik açığı yönetimi uygulamalarının benimsenmesinin teşvik edilmesi Yapay zeka sistemleri için güvenlik testleri ve kırmızı ekip çalışmaları için rehberlik sağlamak.
-
Kritik altyapıyı yapay zekanın kötü niyetli kullanımına karşı koruyun: CISA, devlet kurumları ve sektör ortaklarıyla ortaklık kuracak. Ortak Siber Savunma İşbirliği Yapay zeka araçlarını geliştirmek, test etmek ve değerlendirmek ve gelişen konularda işbirliği yapmak Yapay zeka tehditleri. CISA, ortaya çıkan risklere ilişkin farkındalığı artırmak için materyaller yayınlayacak ve ayrıca AI risklerinin değerlendirilmesi ve tedavisi için uygun analitik çerçeveyi belirlemek amacıyla risk yönetimi yöntemlerini değerlendirecektir.
-
Kurumlar arası, uluslararası ortaklar ve halkla işbirliği yapın: Farkındalığı artırmak, tehdit bilgilerini paylaşmak ve olay müdahalesi ile soruşturma yeteneklerini geliştirmek için CISA, yapay zeka çalışma grupları, kurumlar arası toplantılara katılmak veya bu toplantılara katılmak ve İç Güvenlik Bakanlığı birimleriyle yakın koordinasyon sağlamak gibi işbirlikçi yaklaşımları teşvik etmeyi planlıyor. CISA, politikalarının ve stratejilerinin AB ile uyumlu olmasını sağlamak için kurumlar arası çalışacaktır. tüm hükümet yaklaşımını benimseyecek ve güvenli yapay zeka için uluslararası en iyi uygulamaların benimsenmesini teşvik etmek amacıyla uluslararası ortakları devreye sokacaktır.
-
İş gücünde yapay zeka uzmanlığını genişletin: İnsan Yapay zeka tabanlı ve yapay zeka tabanlı olmayan siber tehditleri tespit etmek ve yapay zeka sistemlerinin hatalardan, önyargılardan ve manipülasyonlardan arınmış olmasını sağlamak için her zaman dikkatlilik, gözetim ve sezgiye ihtiyaç vardır. İnsan sezgisi ve uyanıklığı yalnızca güçlü güvenlik farkındalığı girişimleriyle güçlendirilebilir. Bu nedenle CISA, iş gücünü sürekli olarak yapay zeka yazılım sistemleri ve teknikleri konusunda eğitmeyi, yapay zeka uzmanlığına sahip çalışanları işe almayı ve çalışanların yapay zeka tabanlı yazılımların yasal, etik ve politika yönlerini anlamalarını sağlamak için durumsal egzersizler içermesi gereken güvenlik farkındalığı eğitim programları yürütmeyi planlıyor. Teknik yönlerin ötesinde sistemler.
Ajans, CISA yol haritasında belirtilen girişimler aracılığıyla ülke için daha sağlam bir siber güvenlik duruşu oluşturmayı, kritik altyapıyı yapay zekanın kötü amaçlı kullanımına karşı korumayı ve yapay zeka tabanlı araç ve sistemlerde güvenliği temel bir iş gereksinimi olarak önceliklendirmeyi umuyor.