Araştırmacılar, geniş bir veri yelpazesinin üretken yapay zeka (GenAI) araçları aracılığıyla çalışanlar tarafından paylaşıldığını ve bunun pek çok veriyi meşrulaştırdığını buldu. kuruluşların yapay zeka uygulamalarını tam olarak benimseme konusundaki tereddütleri.
Bir kullanıcı ChatGPT veya benzer bir araç için bir komut istemine her veri girdiğinde, bilgi, algoritmanın yeni neslini eğitmek için kullanılan kaynak malzeme olarak hizmetin LLM veri setine alınır. Buradaki endişe, bilgilerin daha sonraki bir tarihte geri alınabilmesidir. anlayışlı istemlerHizmet için uygun veri güvenliği mevcut değilse, bir güvenlik açığı veya saldırı söz konusu olabilir.
Bu, Microsoft, Copilot, OpenAI ChatGPT, Google Gemini, Anthropic’s Clause ve Perplexity gibi GenAI platformlarına kullanıcılar tarafından gönderilen binlerce istemi analiz eden Harmonic’teki araştırmacılara göre böyle. Araştırmalarında, çalışanların bu araçları kullanırken bir metni özetlemek, bir blogu düzenlemek veya nispeten basit başka bir görev gibi basit davranışlarının çoğu durumda basit olmasına rağmen, çok daha fazla istek alt kümesinin olduğunu keşfettiler. daha uzlaşmacı. Toplamda, analiz edilenlerin %8,5’i GenAI istemleri hassas verileri içeriyorduDaha doğrusu.
Müşteri Verileri Çoğunlukla GenAI’ye Sızdırılıyor
hassas veriler Harmonic’e göre çalışanların paylaştığı veriler genellikle beş kategoriden birine giriyor: müşteri verileri, çalışan verileri, hukuk ve finans, güvenlik ve hassas kod.
Araştırmacılara göre müşteri verileri, %45,77 ile hassas veri istemleri arasında en büyük payı alıyor. Buna bir örnek, çalışanların müşteri bilgilerini içeren sigorta taleplerini göndermeleridir. GenAI platformuna Taleplerin işlenmesinde zaman kazanmak için. Bu, işleri daha verimli hale getirmede etkili olsa da, bu tür özel ve son derece ayrıntılı bilgilerin girilmesi, fatura bilgileri, müşteri kimlik doğrulaması, müşteri profili, ödeme işlemleri, kredi kartları ve daha fazlası gibi müşteri verilerinin açığa çıkması açısından yüksek risk oluşturur.
Çalışan verileri, Harmonic’in araştırmasındaki hassas istemlerin %27’sini oluşturuyor ve bu da GenAI araçlarının dahili süreçler için giderek daha fazla kullanıldığını gösteriyor. Bu, performans incelemeleri, işe alma kararları ve hatta yıllık ikramiyelerle ilgili kararlar anlamına gelebilir. Potansiyel uzlaşma için sunulan diğer bilgiler arasında istihdam kayıtları, kişisel olarak tanımlanabilir bilgiler (PII) ve maaş bordrosu verileri yer alıyor.
Araştırmacılara göre, hukuki ve mali bilgiler %14,88 ile o kadar sık ifşa edilmiyor, ancak ifşa edildiğinde büyük kurumsal risklere yol açabiliyor. Ne yazık ki GenAI bu alanlarda kullanıldığında yazım denetimi, çeviri veya yasal metinlerin özetlenmesi gibi basit görevler için kullanılıyor. Bu kadar küçük bir şeyin sonuçları inanılmaz derecede yüksektir ve satış planı ayrıntıları, birleşme ve satın alma bilgileri ve finansal veriler gibi çeşitli verileri riske atar.
Güvenlik bilgileri ve güvenlik kodunun her biri sırasıyla %6,88 ve %5,64 oranlarıyla sızdırılan en küçük hassas veri miktarını oluşturuyor. Ancak araştırmacılara göre bu iki grup daha önce bahsedilenlerle karşılaştırıldığında yetersiz kalsa da en hızlı büyüyen ve en endişe verici olanlar arasında yer alıyor. GenAI’ye girilen güvenlik verileri, penetrasyon testi sonuçlarını, ağ yapılandırmalarını, yedekleme planlarını ve daha fazlasını içerir ve kötü aktörlerin güvenlik açıklarından nasıl yararlanabileceğine ve kurbanlarından nasıl yararlanabileceğine dair kesin yönergeler ve planlar sağlar. Bu araçlara girilen kod, teknoloji şirketlerini rekabet açısından dezavantajlı duruma sokabilir, güvenlik açıklarını ortaya çıkarabilir ve rakiplerin benzersiz işlevleri kopyalamasına olanak tanıyabilir.
GenAI Siber Riskini ve Ödüllendirmeyi Dengelemek
Araştırma GenAI’nın yüksek riskli potansiyel sonuçlar sunduğunu gösteriyorsa işletmeler bunu kullanmaya devam etmeli mi? Uzmanlar başka seçeneği kalmayabileceğini söylüyor.
Rapordaki araştırmacılar, “Kuruluşlar, hassas verileri ifşa etmeleri halinde rekabet avantajlarını kaybetme riskiyle karşı karşıya kalacak” dedi. “Ancak aynı zamanda GenAI’yi benimsemezlerse ve geride kalırlarsa kaybetme riskiyle de karşı karşıya kalacaklar.”
SlashNext Email Security+’ın saha baş teknoloji sorumlusu (CTO) Stephen Kowski de aynı fikirde. Dark Reading’e e-postayla gönderdiği bir açıklamada, “Teknoloji iş operasyonlarını yeniden şekillendirmeye devam ederken, üretken yapay zekayı benimsemeyen şirketler verimlilik, üretkenlik ve inovasyon açısından önemli rekabet avantajlarını kaybetme riskiyle karşı karşıya kalıyor” dedi. “GenAI olmadan işletmeler daha yüksek operasyonel maliyetlerle ve daha yavaş karar verme süreçleriyle karşı karşıya kalırken, rakipleri görevleri otomatikleştirmek, daha derin müşteri içgörüleri elde etmek ve ürün geliştirmeyi hızlandırmak için yapay zekadan yararlanıyor.”
Ancak diğerleri GenAI’nın gerekli olduğu veya bir organizasyonun herhangi bir yapay zekaya ihtiyacı olduğu konusunda hemfikir değil.
Mimoto’nun CEO’su ve kurucu ortağı Kris Bondi, Dark Reading’e e-postayla gönderilen bir açıklamada, “Yapay zekayı kullanmak uğruna yapay zekayı kullanmak, başarısızlığa mahkumdur” dedi. “Tam olarak uygulansa bile, belirlenmiş bir ihtiyacı karşılamıyorsa, bütçeler kesildiğinde veya yeniden tahsis edildiğinde desteğini kaybedecektir.”
Kowski, GenAI’yi dahil etmemenin riskli olduğuna inansa da yine de başarıya ulaşılabileceğini belirtiyor.
“Bir şirketin, özellikle mühendislik, tarım, sağlık hizmetleri veya yerel hizmetler gibi yapay zeka dışı çözümlerin genellikle daha büyük etkiye sahip olduğu sektörlerde ilgi çekici bir değer teklifi ve güçlü bir iş modeline sahip olması durumunda, yapay zeka olmadan başarı hala elde edilebilir” dedi.
Kuruluşlar GenAI araçlarını birleştirmeyi sürdürmek istiyor ancak bununla birlikte gelen yüksek riskleri azaltmak istiyorsa, Harmonic’teki araştırmacıların buna en iyi nasıl yaklaşılacağına dair önerileri var. Bunlardan ilki, “blok stratejilerinin” ötesine geçmek ve GenAI araçlarına yapılan girdileri gerçek zamanlı olarak takip etmek için sistemlerin dağıtılması, hangi planların kullanımda olduğunun belirlenmesi ve çalışanların işleri için ücretli planlar kullanmasını sağlamak ve çalışanların işlerine yönelik planlar yerine ücretli planlar kullanmasını sağlamak da dahil olmak üzere etkili yapay zeka yönetimini uygulamaktır. Girilen verileri sistemleri eğitmek, bu araçlar üzerinde tam görünürlük kazanmak, hassas veri sınıflandırması, iş akışları oluşturmak ve uygulamak ve çalışanları sorumlu GenAI kullanımının en iyi uygulamaları ve riskleri konusunda eğitmek için kullanın.
