Uzmanlar, vergilendirme uluslararası yaptırımları kötüleştikçe, yapay zeka kullanan bankalar ve diğer finans kurumlarının misilleme amaçlı Rus siber saldırılarına karşı benzersiz bir şekilde duyarlı olabileceği konusunda uyarıyor.
Yakın tarihli bir Wall Street Journal’da vurgulanan bu korkular raporRusya’nınki gibi geliyor savaş Ukrayna’da ikinci ayına ve benzeri görülmemiş bir şekilde ilerliyor baraj uluslararası yaptırımlar Rus ekonomisine zarar vermeye devam ediyor. Küresel finans kuruluşları, başından beri yaptırım rejiminde ayrılmaz bir rol oynamıştır. engelleme bazı Rus bankalarından para akışı, inkar uluslararası pazarlara erişimleri ve hatta dondurucu cumhurbaşkanının mal varlığı Vladimir Putin ve önde gelen Rus oligarkları.
Ancak uzmanlar, aynı kurumların, verimlilik adına sistemlerini giderek daha fazla otomatikleştirmek için makine öğrenimi-öğrenme modellerine hızlı bir şekilde güvenmelerinin, onları kıçından ısırabileceğinden korkuyor. FBI’daki siber bölüm başkanının eski bir politika danışmanı olan Andrew Burt, yapay zeka güvenlik açıklarını kendilerine güvenmeye başlayan birçok finans kurumunda “önemli ve çok yaygın olarak gözden kaçan” olarak nitelendirdi. Burt, “Bu, açıklanamayan büyük bir risk,” dedi.
Peki neden makine öğrenimi algoritmaları saldırılara karşı daha hassastır? Genel olarak, sorunların çoğu, makine öğreniminin hesaplamaları iyileştirmek için büyük miktarda veri kullanma ihtiyacından kaynaklanır. Bu gerçeklik onları özellikle veri işleme saldırılar. Geçmişte, araştırmacıların gösterilen bir saldırganın kasıtlı olarak “zehir” bir algoritmanın tükürebileceği sonuçları bozmak veya etkilemek için eğitim verileri.
sorunları sürerken ırksal, Cinsiyetve AI algoritmalarındaki sınırlı verilerden kaynaklanan diğer önyargılar iyi bilinir hale geldi, bazı araştırmacılar, finansal kurumları hedef alan kötü aktörlerin, piyasa duyarlılığını ortaya çıkarmak isteyen finansal sistem algoritmalarına saldırmak için büyük düzeyde önyargılı verileri dağıtabileceğinden korkuyor. Rus dezenformasyon memlerini düşünün, ancak finans sektörüne uygulandı.
Daha da kötüsü, buna göre 2020 Georgetown Güvenlik ve Gelişen Teknoloji Merkezi raporuna göre, makine öğrenimi güvenlik açıkları diğer yazılımlarla aynı şekilde düzeltilemez, yani olası saldırılar çok daha uzun sürebilir.
Raporda, “Bu sistemlerde hareketsiz kalmak, onlarca yıllık deneyime sahip olduğumuz geleneksel kusurlardan farklı güvenlik açıklarıdır” deniyor. “Bu güvenlik açıkları, yaygın ve yaygın olarak çoğalan ve genellikle çok az savunmanın olduğu araçlar kullanılarak istismar edilmesi ucuzdur.”
Bu algoritmalar, büyük veri kümeleri olmadan gerçek zamanlı olarak da kopyalanabilir. Tencent’ten araştırmacılars Örneğin Keen Güvenlik Laboratuvarı, gösterdi 2019’da Tesla’nın makine öğrenimi yeteneklerini kandırmak için kullanılan nispeten basit birkaç teknik, önce ön cam sileceklerini gerekmediği zamanlarda devreye sokmaları için kandırmak ve ardından bir yolda parlak bir çıkartma kullanarak Otopilot’a bağlı bir Tesla’yı karşı tarafa sürüklenmeye ikna etmek. Şerit.
Montreal AI Etik Enstitüsü Kurucusu Abhishek Gupta, The Journal’a verdiği demeçte, “Dezenformasyon seline karşı savunma yapabilmek açısından gerçek bir yetenek görmedim” dedi. Gupta, makine öğrenimi güvenliğini bilinmeyenlerle dolu bir “yeni” alan olarak tanımlamaya devam etti. “Herhangi bir yazılım altyapısına makine öğrenimi eklediğinizde, yeni saldırı yüzeyleri, bir sistemin davranışının nasıl bozulabileceğine dair yeni yöntemler açılır.”
Bu güvenlik zayıflıkları en iyi zamanlarda bile endişe kaynağı olsa da, Başkan Biden dahil hükümet liderleri, yaptırımlar devam ederken Rusya’nın bu kurumlara saldırmak için siber saldırılar kullanabileceğinden endişe ediyor. Biden, bu hafta başlarında yaptığı açıklamada, tavsiye ABD’deki özel şirketler, “Rus Hükümeti’nin potansiyel siber saldırılar için seçenekleri araştırdığına dair gelişen istihbaratı” öne sürerek güvenlik uygulamalarını güçlendirmeye çalışıyor. Bu arada küresel bankaların, Rus ordusunun işgaline başlamasından bu yana geçen haftalarda ağ izlemeyi artırdığı ve potansiyel siber saldırı senaryoları için sondajı artırdığı bildirildi Reuters notlar.