Yorum
Yapay Zekanın (AI) hızlı yükselişi uzun bir gölge attı, ancak muazzam vaadi önemli bir riskle geliyor: Gölge AI.
Shadow AI, AI modelleri ve bir şirketin BT onaylı yönetişiminin dışındaki üretken AI (Genai) araçları da dahil olmak üzere AI teknolojilerinin kullanımını ifade eder. Daha fazla kişi işyerinde verimliliğini artırmak için chatgpt gibi araçlar kullandıkça, birçok kuruluş genel olarak mevcut olan Geni’yi iç kullanım için yasaklamaktadır. Gereksiz güvenlik risklerini önlemek isteyen kuruluşlar arasında Finansal Hizmetler ve Sağlık Sektörleri ile Apple, Amazon ve Samsung gibi teknoloji şirketleri bulunmaktadır.
Ne yazık ki, böyle bir politikanın uygulanması yokuş yukarı bir savaştır. Yakın tarihli bir rapora göre, kurumsal olmayan hesaplar chatgpt kullanımının% 74’ünü ve İkizler ve Bard’ın% 74’ünü işte oluşturmaktadır. Çalışanlar, iş için yapay zeka kullanımlarına devam etmek için kurumsal politikaları kolayca etleyebilir, Potansiyel olarak güvenlik risklerini açmak.
Bunların en büyüğü hassas veriler için koruma eksikliğidir. Mart 2024 itibariyle, AI araçlarına girilen verilerin% 27.4’ü hassas olarak kabul edilecek ve geçen yıl aynı zamanda% 10,7’den bir artış olacak. Bu bilgilerin bir genai aracına konulduktan sonra korunması neredeyse imkansızdır.
Kontrolsüz Gölge AI kullanımı riski Çalışanlar AI kullandığında katı gizlilik ve güvenlik uygulamalarına olan ihtiyacı ortaya koymaktadır.
Her şey verilere dayanıyor. Veriler AI’nın yakıtıdır, ancak kuruluşlar için en değerli varlıktır. Çalınan, sızdırılmış veya bozuk veriler, bir işletmeye gerçek, somut zarar veriyor – kişisel olarak tanımlanabilir bilgileri (PII) sızdırmadan düzenleyici para cezaları, kaynak kodu gibi sızdırılmış tescilli bilgilerle ilişkili maliyetler ve hackler ve kötü amaçlı yazılımlar gibi ciddi güvenlik ihlallerindeki artış.
Riski azaltmak için kuruluşlar, dinlenirken, transit ve kullanımda olan verilerini güvence altına almalıdır. Riskli Gölge AI kullanımının sayaç, çalışanların büyük dil modellerine (LLMS) beslediği bilgi üzerinde ince bir kontrole sahip olmaktır.
CISOS Genai’yi ve şirket verilerini nasıl güvence altına alabilir?
Hassas şirket verilerinin güvence altına alınması, baş bilgi güvenliği görevlileri (CISOS) için zorlu bir dengeleme eylemidir, çünkü kuruluşlarının Genai’nin algılanan değerinden yararlanma arzusunu tararken, bu faydaları mümkün kılan tek varlığı da korurlar – verileri.
Öyleyse, soru şu olur: Bunu nasıl yapıyorsunuz? Dengeyi nasıl doğru hale getirirsiniz? İşletmenin en değerli varlığını korurken olumlu iş sonuçlarını nasıl elde edersiniz?
Yüksek düzeyde, CISOS tüm yaşam döngüsü boyunca verileri korumaya bakmalıdır. Bu şunları içerir:
Verileri Genai modeline bile yutulmadan önce korumak
Veri çıktısının tamamen güvence altına alınmasını sağlamak, çünkü bu yeni veriler iş sonuçlarını yönlendirecek ve gerçek değer yaratacaktır
Veri yaşam döngüsü güvenli değilse, bu kritik bir maruz kalır.
Daha spesifik olarak, hassas verilerin sızdırılmasını önlemek için çok yönlü bir yaklaşım gereklidir ve Gölge AI’sını mümkün olduğunca sınırlamakla başlasa da, veri güvenliğini ve gizliliği bazı temel uygulamalarla korumak da önemlidir:
Şifreleme: Yaşam döngüsü boyunca veri şifrelemesi hayati önem taşır, ancak şifreleme anahtarlarını verilerin kendisinden güvenli ve ayrı olarak yönetmek ve saklamak da aynı derecede önemlidir.
Gizli: Bir LLM’ye beslenebilecek hassas veya PII verilerini anonimleştirmek için veri tokenizasyonu kullanın. Bu, AI boru hattına giren verilerin bozulmasını veya sızdırılmasını önler.
Erişim: Yalnızca yetkili kullanıcıların verileri düz metinde görebilmesi ve kullanabilmesi için verilere granüler, rol tabanlı erişim kontrolleri uygulayın.
Yönetişim: Etik iş uygulamalarını taahhüt edin, tüm operasyonlara veri gizliliğini yerleştirin ve veri gizlilik düzenlemelerinde güncel kalın.
Çoğu teknoloji gelişmesinde olduğu gibi, Genai’nin kolaylığı ve rahatlığı bazı geri dönüşlerle birlikte gelir. Çalışanlar iş için Genai ve LLM’lerin artan verimliliğinden yararlanmak isterken, CISOS ve BT ekipleri gayretli olmalı ve hassas verilerin AI sistemine girmesini önlemek için en güncel güvenlik düzenlemelerinin üstünde kalmalıdır. Çalışanların veri korumasının önemini bildiklerinden emin olmanın yanı sıra, verileri en başından şifrelemek ve güvence altına almak için tüm önlemleri alarak potansiyel riskleri azaltmanın anahtarıdır.
