Trend Micro ve Nvidia, veri gizliliği, gerçek zamanlı analiz ve hızlı tehdit hafifletme konularına odaklanarak özel yapay zeka (AI) bulutlarını korumak için siber güvenlik araçları üzerinde ortaklık kuruyor.
Trend Micro’nun Vision One-SPC (Sovereign ve Private Cloud) ve Cyber Security LLM dahil olmak üzere yapay zeka destekli güvenlik araçları, artık yapay zeka veri merkezlerinde halihazırda yaygın olarak kullanılan Nvidia GPU’larından sunulacak. ChatGPT ve Microsoft’un BingGPT’si de dahil olmak üzere yaygın olarak bilinen büyük dil modellerinden (LLM’ler) birçoğu bugün Nvidia’nın GPU’larında çalışıyor.
Trend Micro’nun bir sözcüsü, “En iyi bulut ve yapay zeka satıcıları Nvidia teknolojisini kullanıyor ve en iyi sunucu satıcıları da Nvidia sertifikalı donanımlar sunuyor. Hepsini güvence altına almayı hedefliyoruz” diyor.
IDC’nin güvenlik ve güven araştırma uygulamalarından sorumlu grup başkan yardımcısı Frank Dickson, bu teklifin özel bulutlar çalıştıran bankalara ve ilaç şirketlerine veya yapay zeka modellerinde kullanılan özel verilerin korunmasına büyük yatırım yapan şirketlere hitap edebileceğini söylüyor.
“Şirketinizin getirisini artırmak için bir kaynağa büyük bir yatırım yapıyorsunuz. Bu kaynağın uygun şekilde kullanıldığından emin olmak istiyorsunuz” diyor. “Eğer içine hızlı bir motor koyarsam gerçekten iyi frenler isterim.”
Güvenlik için GPU’lar
Analistler, GPU’ların telemetriyi analiz etmede ve güvenlik önlemleri önermede geleneksel CPU’lara göre daha hızlı olduğunu söylüyor.
Dickson, Trend Micro’nun Nvidia GPU’larını çalıştıran güvenlik araçlarının izinsiz girişleri ve tehditleri tespit etme ve bunlara karşı koruma sağlama konusunda daha karmaşık bir iş çıkaracağını söylüyor; çünkü yapay zeka koruması, özel yapay zeka donanımı gerektiriyor.
Dickson, “Nvidia işlemcisinin, yoğun bilgi işlem gerektiren ve son derece paralel olan çok seçici bir görev grubunda gerçekten süper hızlı hareket etmesi amaçlanıyor” diyor.
Technaliz analisti Bob O’Donnell, bilgisayar korsanlarının verileri değiştirip modele zarar verdiği yapay zeka veri zehirlenmesinin büyüyen bir endişe kaynağı olduğunu ve GPU’ları çalıştıran güvenlik araçlarıyla daha iyi korunduğunu söylüyor.
“Benim yorumladığım kadarıyla, geleneksel olarak CPU’lara odaklanan bu iş yüklerinden bazıları GPU’larda ve daha hızlı yapılıyor” diyor.
Şirket, Trend Micro’nun araçlarının veri tahrifatının yanı sıra yetkisiz erişimi de kapatacağını ve günlüklerden ve ağ aktivitesinden anormal eğilimleri belirleyeceğini söyledi.
NIM’in Rolü
Nvidia, Trend Micro’nun AI tabanlı güvenlik hizmetlerini GPU’lar üzerinden sunması için NIM (Nvidia Inference Microservices) adı verilen özel bir arayüz sağlıyor. NIM, Nvidia’nın Mart ayındaki GTC konferansında tanıttığı nispeten yeni bir kavramdır.
NIM, şirketlerin yazılımlarını GPU hızlandırıcılarda CPU’lardan önemli ölçüde daha hızlı çalıştırmalarına olanak tanır. SAP, ServiceNow ve Snowflake, müşterilerin etkileşimde bulunması veya yazılım hizmeti sunması için NIM’leri kullanan 200 şirket arasında yer alıyor.
GPU kapsayıcısı, uygulamalara hizmet verecek işletim sistemi öğelerini içerir ve NIM, doğru verilere, bağımlılıklara, LLM’lere ve programlama araçlarına erişim sağlar.
Trend Micro, siber güvenlik araçlarını Nvidia’nın önceden eğitilmiş yapay zeka araçlarına takmak için NIM’in sağladığı esneklikten de yararlanıyor. Nvidia’nın Morpheus adlı bir güvenlik yapay zeka modeli, ağ günlüklerindeki ve oturum açmalardaki anormal etkinlikleri belirleyerek ve etkinlikleri güvenlik bültenleriyle karşılaştırarak sistem yöneticilerini bekleyen tehditlere karşı uyarıyor.
“Gelecekte her şirketin geniş bir NIM koleksiyonuna sahip olacağına inanıyorum ve istediğiniz uzmanları bir araya getirebilirsiniz. Onları bir ekibe bağlarsınız ve tam olarak nasıl bağlantı kuracağınızı anlamanıza bile gerek kalmaz. “Onlar” dedi Nvidia CEO’su Jensen Huang, Taipei’deki Computex ticaret fuarındaki açılış konuşmasında.
Computex’e katılan Technaliz’den O’Donnell, PC’lerde ve sunucularda yapay zeka hızlandırıcılardan yararlanan Trend Micro güvenlik ürünlerinin gösteri salonunda gösteriler gördü.
Yapay zeka veri merkezlerinin güvenliğini sağlamak için uygulamaları NIM kullanarak dağıtma konseptinin yeni olduğunu söylüyor.
O’Donnell, “İnsanlar bunları çözmeye çalışıyor. Ne tür güvenlik sorunlarının olduğu veya olabileceği konusunda pek çok soru var” diyor.
IDC’den Dickson da aynı fikirde, güvenlik yazılımı yığınını uygulamada zorluklar olabileceğini ve bunun çok fazla öğrenme ve eğitim gerektireceğini söylüyor.
Dickson, “Bunu uyguladıkça, özellikle de her sunucu grubu benzersiz olacağından, bu benzersizliği keşfetmeniz ve bu araçları o benzersiz ortama uygulamanız gerekecek” diyor.