Üretken yapay zeka alanında ortaya çıkan yeni bir trend var – siber güvenlik için üretken yapay zeka – ve Google, giriş katına girmek isteyenler arasında yer alıyor.
Google, bugün RSA Konferansı 2023’te ilan edildi Cloud Security AI Workbench, Sec-PaLM adlı özel bir “güvenlik” AI dil modeli tarafından desteklenen bir siber güvenlik paketi. Google’ın PaLM modelinin bir yan ürünü olan Sec-PaLM’nin “güvenlik kullanım durumları için hassas bir şekilde ayarlandığını” söylüyor Google; yazılım açıkları, kötü amaçlı yazılım, tehdit göstergeleri ve davranışsal tehdit aktörü profilleri üzerine araştırma gibi güvenlik istihbaratını içeriyor.
Cloud Security AI Workbench, Mandiant’ın güvenlik tehditlerini bulmak, özetlemek ve bunlara göre hareket etmek için Sec-PaLM’den yararlanacak olan Threat Intelligence AI gibi bir dizi yeni AI destekli aracı kapsar. (Google’ın Mandiant’ı 2022’de 5,4 milyar dolara satın aldığını hatırlayın.) Başka bir Google mülkü olan VirusTotal, abonelerin kötü amaçlı komut dosyalarının davranışını analiz etmesine ve açıklamasına yardımcı olmak için Sec-PaLM kullanacak.
Diğer yerlerde Sec-PaLM, Google’ın bulut siber güvenlik hizmeti olan Chronicle müşterilerine güvenlik olaylarını arama ve sonuçlarla “korumalı” etkileşim kurma konusunda yardımcı olacaktır. Bu arada Google’ın Security Command Center AI kullanıcıları, etkilenen varlıklar, önerilen hafifletmeler ve güvenlik, uyumluluk ve gizlilik bulguları için risk özetleri dahil olmak üzere, Sec-PaLM sayesinde saldırıya maruz kalmayla ilgili “insanların okuyabileceği” açıklamalar alacak.
Google, bu sabah bir blog yazısında, “Üretken yapay zeka son zamanlarda hayal gücünü ele geçirmiş olsa da, Sec-PaLM, Google ve DeepMind tarafından yıllarca süren temel yapay zeka araştırmalarına ve güvenlik ekiplerimizin derin uzmanlığına dayanmaktadır.” “Üretken yapay zekayı güvenliğe uygulamanın gücünü daha yeni fark etmeye başladık ve müşterilerimiz için bu uzmanlığı kullanmaya devam etmeyi ve güvenlik topluluğu genelinde ilerlemeleri yönlendirmeyi dört gözle bekliyoruz.”
Özellikle Cloud Security AI Workbench’teki ilk araç olan VirusTotal Code Insight’ın şu anda yalnızca sınırlı bir önizlemede mevcut olduğu düşünüldüğünde, bunlar oldukça cesur hedefler. (Google, tekliflerin geri kalanını önümüzdeki aylarda “güvenilir test kullanıcılarına” sunmayı planladığını söylüyor.) Açıkçası, Sec-PaLM’nin pratikte ne kadar iyi çalıştığı veya çalışmadığı net değil. Elbette, “önerilen hafifletmeler ve risk özetleri” kulağa yararlı geliyor, ancak öneriler bir yapay zeka modeli ürettiği için çok daha iyi veya daha kesin mi?
Ne de olsa yapay zeka dil modelleri – ne kadar ileri teknoloji olursa olsun – hata yapar. Ayrıca, yaratıcılarının istemediği şekillerde davranmalarına neden olabilen hızlı enjeksiyon gibi saldırılara karşı hassastırlar.
Bu elbette teknoloji devlerini durdurmuyor. Mart ayında Microsoft, GPT-4 dahil olmak üzere OpenAI’den üretken yapay zeka modellerini kullanarak tehdit istihbaratını “özetlemeyi” ve “anlamlandırmayı” amaçlayan yeni bir araç olan Security Copilot’u piyasaya sürdü. Basın malzemelerinde, Microsoft – Google’a benzer şekilde – üretken yapay zekanın güvenlik uzmanlarını yeni tehditlerle mücadele etmek için daha iyi donatacağını iddia etti.
Jüri bu konuda çok fazla. Gerçekte, siber güvenlik için üretken yapay zeka her şeyden daha fazla yutturmaca olabilir – etkinliğine ilişkin çok sayıda çalışma var. Biraz şansla sonuçları yakında göreceğiz, ancak bu arada, Google’ın ve Microsoft’un iddialarını sağlıklı bir şekilde değerlendirin.