Üretken yapay zekanın (GenAI) hızla benimsenmesi, Orta Doğu ve Afrika’daki kuruluşları, yapay zeka teknolojisinin en endişe verici yönlerini ortadan kaldırmak amacıyla veri gizliliğini ve bulut güvenliği korumalarını artırmaya yönlendiriyor.
Güvenlik ekipleri için iyi haber: GenAI ile ilgili endişeler bütçelerde büyümeyi tetikliyor; 2023’e kıyasla veri gizliliği ve bulut güvenliği harcamalarında sırasıyla %24 ve %17 oranında artış bekleniyor. Gartner belirtti yakın zamanda yapılan bir analizde.
Kötü haber: Yapay zekanın oluşturduğu potansiyel tehditler büyük ölçüde keşfedilmemiş durumda ve şirketler hâlâ yapay zekanın işletmeler üzerindeki yıkıcı etkileriyle mücadele etmek için stratejiler oluşturuyor. Son dönemdeki tehlikeler arasında çalışanların sohbet robotları aracılığıyla fikri mülkiyet haklarını sızdırması, sosyal mühendisliklerini geliştiren saldırganlar ve beklenmedik iş etkilerine neden olan yapay zeka “halüsinasyonları” yer alıyor.
Orta Doğu ve Kuzey Afrika’yı kapsayan Gartner başkan yardımcısı analisti Nader Henein, genel olarak, çalışanlar tarafından yetkisiz kullanımın operasyonel riskler oluşturduğunu, saldırganların teknolojiyi benimsemesinin ise temel teknik yeteneklerinde olası bir artış ve sosyal mühendislik saldırılarında iyileşme anlamına geldiğini söylüyor. (MENA) yaptığı çalışmada.
“LLM’nin LinkedIn’i silmesiyle, her kimlik avı saldırısı, hedefe yönelik ve benzersiz bir hedef odaklı kimlik avı girişimine dönüşür [and] Daha önce yüksek değerli hedefler için ayrılanlar artık norm haline geldi” diyor. “Yapay zeka kırk yıllık, ancak yüksek lisans ve üretken yetenekler yeni ve ulaşılabilir durumda. Tüm potansiyel riskleri kontrol altında tuttuğumuzu söylemek kibirdir.”
Microsoft, GenAI İstismarını Ortaya Çıkardı
Üretken yapay zekanın ticari etkisine ilişkin endişeler kesinlikle Orta Doğu ve Afrika ile sınırlı değil. Microsoft ve OpenAI geçen hafta iki şirketin Şirketin GenAI hizmetlerini kullanan Çin, İran, Kuzey Kore ve Rusya’dan ulus devlet saldırganları tespit edildi Diğer taktiklerin yanı sıra, keşifleri otomatikleştirerek, hedeflenen sistemler hakkındaki soruları yanıtlayarak ve sosyal mühendislik saldırılarında kullanılan mesajları ve tuzakları iyileştirerek saldırıları iyileştirmek. İşyerinde ise siber güvenlik ve BT profesyonellerinin dörtte üçü GenAI’nin işçiler tarafından kullanıldığına inanıyorumizinli veya izinsiz.
Bariz güvenlik riskleri GenAI ve LLM’lere olan ilgiyi azaltmıyor. Dünya çapındaki kuruluşların neredeyse üçte biri Halihazırda yürürlükte olan bir pilot program var %22’si halihazırda araçları kullanıyor ve %17’si bunları uyguluyor.
“[W]Accenture’da bulut öncelikli baş teknoloji uzmanı Teresa Tung, “Bir miktar ön teknik çabayla bu risk, üretken yapay zeka uygulamalarına erişimin sağlanmasına yönelik özel kullanım durumları düşünülerek en aza indirilebilir ve bir yandan da verinin aktığı yere bağlı olarak riske bakılabilir” dedi. içinde En önemli üretken yapay zeka tehditlerinin 2023 analizi. “‘Tasarıma güven’ başarılı sistemlerin oluşturulması ve işletilmesinde kritik bir adımdır” diye ekledi.
Veri Gizliliğinin Kökleri
Orta Doğu ve Afrika’daki kuruluşlar için, güncellenmiş veri koruma yasalarının yanı sıra üretken yapay zekanın benimsenmesine ilişkin endişeler, veri koruma bütçelerindeki artışların en büyük etkenleri olurken, bulutun benimsenmesi de işletmelerin bulut hizmetlerini koruma ihtiyacını artırıyor Gartner’ın tahminine göre.
Genel olarak, MENA’daki şirketler ve devlet kurumları Gartner’ın kıdemli baş analisti Shailendra Upadhyay, bölgenin bu yıl güvenlik ve risk yönetimine 3,3 milyar dolar harcamasının beklendiğini söylüyor; bu, 2023’e göre %12’lik bir artış.
“Tanımlanabilir veri içeren ‘kişisel verilerin’ işlenmesine ilişkin veri koruma yasalarının uygulanması nedeniyle [or] MENA bölgesindeki belirli kişilerin ve şirketlerin 2024 yılında daha yüksek düzeyde veri gizliliği ve siber güvenlik hijyeni sağlaması gerekecek” dedi.
Upadhyay, sırada IaaS, PaaS ve SaaS’ın benimsenmesindeki artış ve bulut güvenlik araçları satın alma ihtiyacıyla birlikte bulut güvenliği harcamaları olduğunu ekliyor.
GenAI endişeleri iki segmente yayılıyor; bunu uygulayan işletmeler arasında veri güvenliği en büyük endişe ve bulut altyapısı genellikle GenAI hizmetleri sunuyor.
Siber Güvenlik için GenAI
Körfez İşbirliği Konseyi (GCC) bölgesinde yapay zeka teknolojilerinin genel olarak benimsenmesi, ABD ve Avrupa da dahil olmak üzere dünyadaki diğer yerleri geride bırakıyor. Ancak teknolojinin uygulanması çoğunlukla dengesizdir.
Danışmanlık firması McKinsey’e göre, kuruluşların yaklaşık yüzde 62’si yapay zekayı en az bir iş fonksiyonunda kullanıyor (Kuzey Amerika’da yüzde 58 ve Avrupa’da yüzde 47). Ancak çoğu, bunu yalnızca pazarlama, satış veya hizmet operasyonları için kullanıyor.
“[C]McKinsey, şu anda yapay zekayı kullanan şirketlerin sunabileceklerinin yalnızca yüzeyini çizdiğini belirtti. Körfez İşbirliği Konseyi ülkelerindeki yapay zekanın durumuna ilişkin 2023 raporu.
Benzer şekilde Orta Doğu ve Kuzey Afrika’daki kuruluşlar da bulut yolculuğunun henüz ilk günlerinde.
Nispeten pahalı İnternet hizmeti, birçok bölgede bağlantı eksikliği ve bulutla ilgili mevzuat belirsizliği, talebin gecikmesine yol açtı. ikinci bir McKinsey analizine göre. Ancak durum hızla gelişiyor: Oradaki hükümetler, gelişen, bilgiye dayalı ekonomileri finanse ediyor ve dünyanın diğer bölgelerindeki kurallara uyacak yeni veri güvenliği düzenlemeleri oluşturuyor.
Bu arada GenAI da güvenlik çözümünün bir parçası olabilir: Siber güvenlik firmaları, halihazırda aşırı çalışan ekiplerin iş yükünü azaltmanın bir yolu olarak ürünlerine zeka ve makine öğrenimi (AI/ML) ekliyor.
McKinsey, yapay zekanın benimsenmesi için üç kriter öneriyor: Açıkça tanımlanmış bir yapay zeka stratejisi, yapay zeka konusunda yetenekli çalışanlardan oluşan bir ekip ve yapay zekanın hızla benimsenmesi ve ölçeklendirilmesi için mevcut bir süreç. Ancak şirket raporunda şu anda Körfez İşbirliği Konseyi şirketlerinin %30’dan azının bu üç kriterin her birini yerine getirdiğini belirtti.