Open AI’nin ChatGPT’sinin piyasaya sürülmesi, yazılım endüstrisi için belirleyici bir an oldu ve Kasım 2022 sürümüyle GenAI yarışına damga vurdu. SaaS satıcıları artık üretken yapay zeka tarafından desteklenen gelişmiş üretkenlik özelliklerine sahip araçları yükseltmek için acele ediyor.
Geniş bir kullanım yelpazesi arasında GenAI araçları, geliştiricilerin yazılım geliştirmesini kolaylaştırır, satış ekiplerine sıradan e-posta yazma konusunda yardımcı olur, pazarlamacıların düşük maliyetle benzersiz içerik üretmesine yardımcı olur ve ekiplerin ve yaratıcıların yeni fikirler için beyin fırtınası yapmasına olanak tanır.
Son dönemdeki önemli GenAI ürün lansmanları arasında Microsoft 365 Copilot, GitHub Copilot ve Salesforce Einstein GPT yer alıyor. Önde gelen SaaS sağlayıcılarının sunduğu bu GenAI araçlarının ücretli geliştirmeler olması dikkat çekicidir; bu, hiçbir SaaS sağlayıcısının GenAI dönüşümünden para kazanma fırsatını kaçırmak istemeyeceğinin açık bir işaretidir. Google yakında web sitelerinin bir listesi yerine yapay zeka tarafından oluşturulan birinci sınıf özetler için SGE “Arama Üretken Deneyimi” platformunu başlatacak.
Bu hızda, bir çeşit yapay zeka yeteneğinin standart hale gelmesi çok kısa bir zaman meselesi. SaaS uygulamaları.
Ancak bulut destekli ortamda bu yapay zeka ilerlemesi, kullanıcılar için yeni riskler ve olumsuzluklar olmadan da gerçekleşmiyor. Aslında, GenAI uygulamalarının işyerinde geniş çapta benimsenmesi, yeni nesil siber güvenlik tehditlerine maruz kalma konusundaki endişeleri hızla artırıyor.
SaaS güvenlik duruşunuzu nasıl geliştireceğinizi ve yapay zeka riskini nasıl azaltacağınızı öğrenin
GenAI risklerine tepki vermek
GenAI, kullanıcılar tarafından araçlarla paylaşılan bilgilere dayanarak orijinali yansıtan yeni veriler üreten eğitim modelleri üzerinde çalışıyor.
ChatGPT artık kullanıcıları oturum açtıklarında “Hassas bilgileri paylaşmayın” ve “gerçeklerinizi kontrol edin” şeklinde uyarıyor. ChatGPT, GenAI’nin riskleri sorulduğunda şu yanıtı veriyor: “ChatGPT gibi AI modellerine gönderilen veriler, model eğitimi ve iyileştirme amacıyla kullanılabilir ve potansiyel olarak bu modeller üzerinde çalışan araştırmacıların veya geliştiricilerin eline geçebilir.”
Bu açığa çıkma, bulut tabanlı GenAI sistemlerinde dahili bilgileri paylaşan kuruluşların saldırı yüzeyini genişletiyor. Yeni riskler arasında IP sızıntısı tehlikesi, hassas ve gizli müşteri verileri ve PII’nin yanı sıra siber suçluların çalınan bilgileri kimlik avı dolandırıcılığı ve kimlik hırsızlığı için kullanmasından kaynaklanan tehditler yer alıyor.
Bu endişelerin yanı sıra uyumluluk ve hükümet gerekliliklerini karşılamaya yönelik zorluklar, özellikle gizli ve hassas verileri işleyen endüstriler ve sektörler tarafından GenAI uygulamalarında tepkiyi tetikliyor. Yakın tarihli bir habere göre çalışmak Cisco tarafından dört kuruluştan birinden fazlası, gizlilik ve veri güvenliği riskleri nedeniyle GenAI’nin kullanımını zaten yasakladı.
Bankacılık sektörü, iş yerinde GenAI araçlarının kullanımını yasaklayan ilk sektörler arasında yer aldı. Finansal hizmet liderleri, yapay zekayı daha verimli hale getirmek ve çalışanların işlerini yapmalarına yardımcı olmak için kullanmanın yararları konusunda umutlu, ancak yüzde 30’u hala şirketlerinde üretken yapay zeka araçlarının kullanımını yasaklıyor. anket Arizent tarafından yürütülmektedir.
Geçen ay ABD Kongresi dayatılan Siber güvenlik önlemlerini geliştirmek için Microsoft’un Copilot yazılımının devlet tarafından verilen tüm bilgisayarlarda kullanılmasının yasaklanması. Axios’a göre Temsilciler Meclisi’nin Baş İdari Sorumlusu Catherine Szpindor, “Microsoft Copilot uygulaması, House verilerinin House tarafından onaylanmayan bulut hizmetlerine sızdırılması tehdidi nedeniyle Siber Güvenlik Ofisi tarafından kullanıcılar için bir risk olarak değerlendirildi.” dedi. rapor. Bu yasak, hükümetin ChatGPT’yi engelleme yönündeki önceki kararının ardından geldi.
Denetim eksikliğiyle başa çıkmak
Reaktif GenAI yasakları bir yana, uygulamalar eğitim, gözetim veya işverenlerin bilgisi olmadan işyerine nüfuz ettiğinden kuruluşlar şüphesiz GenAI kullanımını etkili bir şekilde kontrol etmekte sorun yaşıyor.
Yakın tarihli bir habere göre çalışmak Salesforce’a göre, GenAI’yi benimseyenlerin yarısından fazlası işyerinde onaylanmamış araçlar kullanıyor. Araştırma, GenAI’nın sunduğu faydalara rağmen, kullanımıyla ilgili açıkça tanımlanmış politikaların bulunmamasının işletmeleri riske atabileceğini buldu.
İyi haber şu ki, eğer işverenler ABD hükümetinin yapay zeka yönetimini güçlendirmeye yönelik yeni rehberliğini takip ederse bu durum değişmeye başlayabilir.
İçinde ifade Bu ayın başlarında yayınlanan Başkan Yardımcısı Kamala Harris, tüm federal kurumlara “yapay zekanın sorumlu bir şekilde kullanıldığından emin olmak için tüm yapay zeka teknolojilerini denetleyecek deneyim, uzmanlık ve yetkiye sahip” bir Yapay Zeka Direktörü atama talimatı verdi.
ABD hükümetinin, riskleri yönetmek için yapay zekanın ve özel kaynakların sorumlu kullanımını teşvik etme konusunda öncülük etmesiyle birlikte, bir sonraki adım, uygulamaları güvenli bir şekilde yönetme yöntemlerini bulmaktır.
GenAI uygulamalarının kontrolünü yeniden ele alma
Riskleri bilinmeyen bilinmeyenler alanında kalan Yapay Zeka Devrimi, çevre korumasına odaklanmanın giderek geçerliliğini yitirdiği bir zamanda geliyor.
Günümüzde tehdit aktörleri, insan kimlikleri, insan olmayan kimlikler ve SaaS uygulamalarındaki yanlış yapılandırmalar gibi kuruluşlar içindeki en zayıf halkalara giderek daha fazla odaklanıyor. Ulus devlet tehdit aktörleri, son zamanlarda kötü amaçlı yazılım ve fidye yazılımlarını başarılı bir şekilde dağıtmak ve SaaS uygulamalarına yönelik diğer kötü amaçlı saldırıları gerçekleştirmek için kaba kuvvet parola spreyleri ve kimlik avı gibi taktikleri kullandı.
SaaS uygulamalarını güvence altına almaya yönelik çabaları karmaşık hale getiren hibrit çalışma modelindeki cihazların kullanımı söz konusu olduğunda, iş ve kişisel yaşam arasındaki çizgiler artık bulanıklaşıyor. GenAI’nin gücüyle gelen cazibelerle birlikte, onaylanmış olsun ya da olmasın, çalışanların teknolojiyi kullanmasını engellemek imkansız hale gelecek.
Bu nedenle, GenAI’nin iş gücünde hızlı bir şekilde benimsenmesi, kuruluşların yeni nesil SaaS güvenlik tehditleriyle baş edebilecek güvenlik araçlarına sahip olup olmadıklarını yeniden değerlendirmeleri için bir uyandırma çağrısı olmalıdır.
Kuruluşlar, SaaS GenAI uygulamalarında veya GenAI yeteneklerine sahip uygulamalarda kontrolü yeniden kazanmak ve görünürlük elde etmek için, AI’nın risklerini sıkı bir şekilde izlerken kullanılmasına olanak tanıyan SSPM (SaaS Güvenlik Duruş Yönetimi) gibi gelişmiş sıfır güven çözümlerine yönelebilir.
Bağlantılı her yapay zeka destekli uygulamanın bir görünümünü elde etmek ve SaaS güvenliğini zayıflatabilecek risklere karşı güvenlik duruşunu ölçmek, kuruluşların yeni ve gelişen tehditleri önleme, tespit etme ve bunlara yanıt verme yeteneğini güçlendirecektir.
GenAI çağı için SaaS güvenliğini nasıl başlatacağınızı öğrenin
