Çok sayıda şirket üretken yapay zeka (genAI) araçlarını test etmeye ve dağıtmaya devam ederken, birçoğu yapay zeka hataları, kötü niyetli saldırılar ve düzenleyicilerle ters düşme riskiyle karşı karşıya – hassas verilerin potansiyel olarak açığa çıkmasından bahsetmiyorum bile.
Örneğin, Nisan ayında, Samsung’un yarı iletken bölümü mühendislerin ChatGPT kullanmasına izin verdikten sonra, platformu kullanan çalışanlar en az üç örnekte ticari sırları sızdırdı. yayınlanmış hesaplar. Bir çalışan, hataları kontrol etmek için gizli kaynak kodunu sohbete yapıştırırken, başka bir çalışan kodu ChatGPT ile paylaştı ve “kod optimizasyonu istedi.”
ChatGPT, geliştiricisi OpenAI tarafından barındırılmaktadır. kullanıcılardan herhangi bir hassas bilgiyi paylaşmamalarını ister çünkü silinemez.
Sistem entegrasyonu sağlayıcısı Insight Enterprises’ın küresel CTO’su Matthew Jackson, “Bu noktada neredeyse Google’ı kullanmak gibi bir şey,” dedi. “Verileriniz OpenAI tarafından kaydediliyor. O sohbet penceresine koyduğunuz her şeyi kullanmalarına izin verilir. Genel içerik yazmaya yardımcı olması için ChatGPT’yi kullanmaya devam edebilirsiniz, ancak gizli bilgileri o pencereye yapıştırmak istemezsiniz.”
Sonuç olarak, başkan yardımcısı ve seçkin Gartner analisti Avivah Litan’a göre, büyük dil modelleri (LLM’ler) ve diğer genAI uygulamaları “tamamen hazır değil”. “Doğruluk sorunları, sorumluluk ve mahremiyet endişeleri, güvenlik açıkları var ve öngörülemeyen veya istenmeyen yönlere sapabilirler,” dedi, “ancak tamamen kullanılabilirler ve üretkenlik ve yenilikçiliğe muazzam bir destek sağlıyorlar.”
son zamanlarda Harris Anketi iş liderlerinin gelecek yıl genAI araçlarını kullanıma sunmalarının en önemli iki nedeninin geliri artırmak ve yeniliği teşvik etmek olduğunu keşfetti. Neredeyse yarısı (%49) teknoloji inovasyonunda rakiplere ayak uydurmanın bu yıl en büyük zorluk olduğunu söyledi. (Harris Anketi, Nisan ve Mayıs 2023 arasında yönetici veya üstü olarak çalışan 1.000 çalışanla anket yaptı.)
Ankete katılanlar, müşteri katılımı (sohbet robotları aracılığıyla) ve araştırma ve geliştirme sırasıyla ikinci ve üçüncü sırada yer alırken, yapay zekanın en büyük faydası olarak çalışan üretkenliğini (%72) gösterdi.
Harris Anketi/İçgörüsüYapay zeka benimseme patladı
Danışmanlık tarafından yapılan ayrı anketlere göre, çoğu iş lideri önümüzdeki üç yıl içinde çalışanları daha üretken kılmak ve müşteri hizmetlerini geliştirmek için genAI’yi benimsemeyi bekliyor. Ernst & Young (EY) ve araştırma firması The Harris Poll. Ve CEO’ların çoğu yapay zekayı ürünlere/hizmetlere entegre ediyor veya bunu 12 ay içinde yapmayı planlıyor.
EY, anket raporunda “2023’te hiçbir kurumsal lider yapay zekayı görmezden gelemez” dedi. “Bugün liderlerin yüzde seksen ikisi, kuruluşların üretici yapay zeka gibi dijital dönüşüm girişimlerine yatırım yapması gerektiğine inanıyor, aksi takdirde geride kalacak.”
Sistem entegrasyon hizmetleri sağlayıcısı tarafından yaptırılan The Harris Poll’e yanıt verenlerin yaklaşık yarısı Insight Enterprisesürün kalitesinden emin olmak ve emniyet ve güvenlik risklerini ele almak için yapay zekayı benimsediklerini belirtti.
EY tarafından ankete katılan ABD’li CEO’ların yüzde kırk ikisi, yapay zeka odaklı ürün veya hizmet değişikliklerini sermaye tahsis süreçlerine zaten tam olarak entegre ettiklerini ve yapay zeka odaklı inovasyona aktif olarak yatırım yaptıklarını söylerken, %38’i büyük sermaye yatırımları yapmayı planladıklarını söylüyor. önümüzdeki 12 ay boyunca teknoloji.
İç yüzüThe Harris Poll’e göre, ankete katılanların yarısından biraz fazlası (%53) genAI’yi araştırma ve geliştirmeye yardımcı olması için kullanmayı ve %50’si onu yazılım geliştirme/test etme için kullanmayı planlıyor.
C-suite liderler genAI’nin önemini kabul etseler de aynı zamanda temkinli davranıyorlar. EY anketindeki CEO’ların yüzde altmış üçü bunun iyi bir güç olduğunu ve iş verimliliğini artırabileceğini söyledi, ancak %64’ü genAI kullanımının iş dünyası ve toplum üzerindeki istenmeyen sonuçlarını yönetmek için yeterince yapılmadığına inanıyor.
Her iki ankete göre, “Yapay zekanın istenmeyen sonuçları” ışığında, her 10 kuruluştan sekizi ya YZ politikaları ve stratejileri uygulamaya koydu ya da uygulamayı düşünüyor.
AI sorunları ve çözümleri
Üretken yapay zeka, en sık adlandırılan ikinci risk oldu. Gartner’ın ikinci çeyrek anketiGartner’ın Risk ve Denetim Uygulamasında araştırma yapan Ran Xu direktörüne göre ilk kez ilk 10’da yer alıyor.
Xu yaptığı açıklamada, “Bu, hem halkın farkındalığındaki hızlı büyümeyi hem de üretken AI araçlarının kullanımının yanı sıra potansiyel kullanım durumlarının genişliğini ve dolayısıyla bu araçların yol açtığı potansiyel riskleri yansıtıyor” dedi.
genAI uygulamalarının doğru ve gerçek gibi görünen ancak gerçek olmayan gerçekleri ve verileri sunduğu halüsinasyonlar önemli bir risktir. AI çıktılarının yanlışlıkla başkalarının fikri mülkiyet haklarını ihlal ettiği bilinmektedir. GenAI araçlarının kullanımı, kullanıcı bilgilerini satıcılar veya hizmet sağlayıcılar gibi üçüncü taraflarla önceden bildirimde bulunmaksızın paylaşabileceklerinden gizlilik sorunlarına yol açabilir. Bilgisayar korsanları ” olarak bilinen bir yöntem kullanıyor.hızlı enjeksiyon saldırıları” büyük bir dil modelinin sorgulara nasıl yanıt verdiğini değiştirmek için.
Jackson, “Bu, insanların ona bir soru sorup verilerin doğru olduğunu varsayması ve yanlış verilerle bazı önemli iş kararları vermesi nedeniyle potansiyel bir risktir” dedi. “Bu bir numaralı endişeydi – kötü verileri kullanmak. Anketimizde ikinci sırada güvenlik vardı.”
Harris Anketi/İçgörüsüLitan’a göre kuruluşların genAI’yi dağıtırken karşılaştıkları sorunlar üç ana kategoride yatıyor:
- Kurumsal karar verme ve gizliliği tehlikeye atan kabul edilemez kullanım, hassas veri sızıntıları ve hatalı çıktılar (halüsinasyonlar dahil) dahil olmak üzere girdi ve çıktı.
- Barındırılan bir LLM satıcısının sistemi aracılığıyla veri sızıntılarını, eksik veri gizliliği veya koruma ilkelerini ve yasal uyumluluk kurallarına uyulmamasını içeren gizlilik ve veri koruması.
- Yapay zeka çıktılarını etkilemek için LLM’lere ve bunların parametrelerine erişen bilgisayar korsanlarını içeren siber güvenlik riskleri.
Litan, bu tür tehditleri hafifletmenin katmanlı bir güvenlik ve risk yönetimi yaklaşımı gerektirdiğini söyledi. Kuruluşların istenmeyen veya meşru olmayan girdi veya çıktı olasılığını azaltmasının birkaç farklı yolu vardır.
İlk olarak, kuruluşlar kabul edilebilir kullanım için politikalar tanımlamalı ve amaçlanan kullanım ve talep edilen veriler de dahil olmak üzere genAI uygulamalarını kullanma isteklerini kaydetmek için sistemler ve süreçler oluşturmalıdır. GenAI uygulamasının kullanımı ayrıca çeşitli gözetmenler tarafından onaylanmayı gerektirmelidir.
Kuruluşlar, barındırılan LLM ortamlarına gönderilen bilgiler için girdi içeriği filtrelerini de kullanabilir. Bu, girdilerin kabul edilebilir kullanım için kurumsal ilkelere göre taranmasına yardımcı olur.
Gizlilik ve veri koruma riskleri, hızlı bir veri depolama alanı barındırmayı devre dışı bırakarak ve bir sağlayıcının modellerini eğitmek için kurumsal verileri kullanmadığından emin olarak azaltılabilir. Ek olarak şirketler, LLM ortamındaki veri koruma kurallarını ve sorumluluğunu tanımlayan bir barındırma sağlayıcısının lisans sözleşmesini incelemelidir.
GartnerSon olarak, kuruluşların, bir LLM’yi istenen davranışını değiştirmesi için kandırmak üzere tasarlanmış kötü niyetli bir girdi olan hızlı enjeksiyon saldırılarının farkında olmaları gerekir. Bu, çalınan verilerle sonuçlanabilir veya dolandırılan müşteriler üretken AI sistemleri tarafından.
Gartner’a göre kuruluşların erişim yönetimi, veri koruma ve ağ ve uç nokta güvenliği dahil olmak üzere yerel Enterprise LLM ortamında güçlü güvenliğe ihtiyacı var.
Litan, genAI kullanıcılarının dağıtmasını önerir Güvenlik Hizmeti Ucu ağ ve güvenliği bir kuruluşun kenarlarını, sitelerini ve uygulamalarını koruyan bulutta yerel bir yazılım yığınında birleştiren yazılım.
Ek olarak kuruluşlar, LLM veya genAI hizmet sağlayıcılarını, bir kullanıcı kuruluşun üzerinde hiçbir kontrol veya görünürlüğe sahip olmadığı LLM’lerine yönelik dolaylı hızlı enjeksiyon saldırılarını nasıl önledikleri konusunda sorumlu tutmalıdır.
AI’nın avantajları, risklerinden ağır basabilir
Insight’tan Jackson, şirketlerin yaptığı bir hata, AI kullanmanın riske değmeyeceğine karar vermektir, bu nedenle “çoğu şirketin bulduğu ilk politika ‘onu kullanma’dır” dedi.
Bu bizim de ilk politikamızdı” dedi. “Ancak Azure teknolojisi üzerinde Microsoft’un OpenAI’sini kullanan özel bir kiracıyı çok hızlı bir şekilde ayağa kaldırdık. Bu nedenle, bazı özel kurumsal verilerimize bağlanabildiğimiz güvenli bir ortam oluşturduk. Böylece, insanların onu kullanmasına izin verebiliriz.”
IDCBir Insight çalışanı, üretici yapay zeka teknolojisini Excel gibi tanımladı. “İnsanlara Excel’i vermeden önce nasıl kullanacaklarını sormuyorsunuz; sadece onlara veriyorsunuz ve onlar da onu kullanmanın tüm bu yaratıcı yollarını buluyorlar,” dedi Jackson.
Insight, firmanın teknolojiyle ilgili kendi deneyimlerini göz önünde bulundurarak birçok müşteriyle genAI kullanım durumları hakkında konuşmaya başladı.
“Bazı pilotlarımızda aklımıza gelen şeylerden biri, yapay zekanın gerçekten sadece genel bir üretkenlik aracı olduğu. Pek çok kullanım durumunun üstesinden gelebilir,” dedi Jackson. “…Neye karar verdik [was] aşırı derecede özelleştirmek için uzun, yorucu bir süreçten geçmek yerine, bazı genel çerçeveler ve yapabilecekleri ve yapamayacakları sınırlar ile bazı departmanlara dağıtacak ve sonra ne bulduklarını görecektik. ile.”
Insight Enterprises’ın ChatGPT’yi kullandığı ilk görevlerden biri, müşterilerin teknolojiyi satın aldığı ve şirketin daha sonra bu cihazları görüntülediği ve müşterilere gönderdiği dağıtım merkeziydi; süreç, ürün durumlarının ve tedarik sistemlerinin güncellenmesi gibi sıradan görevlerle doludur.
Jackson, “Depolarımızdan birindeki çalışanlardan biri, üretici yapay zekadan bu sistem güncellemelerinden bazılarını otomatikleştirmek için bir komut dosyası yazmasını isteyip istemediğinizi fark etti,” dedi. “Bu, Insight’ın kuruluş çapında Insight GPT adlı kendi özel, kurumsal ChatGPT eşgörünümünün kitle kaynaklı kullanımından ortaya çıkan pratik bir kullanım durumuydu.”
Üretken yapay zeka programı, Insight’ın önemli sayıda görevi otomatikleştiren depo operasyonu için kısa bir Python betiği yazdı ve SAP envanter sistemine karşı çalışabilecek sistem güncellemelerini etkinleştirdi; temelde, insanların her güncelleme yapmaları gerektiğinde beş dakika süren bir görevi otomatikleştirdi.
“Yani, depomuzda büyük bir üretkenlik artışı oldu. Bunu o merkezdeki diğer çalışanlara dağıttığımızda, haftada yüzlerce saat tasarruf edildi,” dedi Jackson.
Şimdi Insight, daha fazla özelleştirme gerektirebilecek kritik kullanım durumlarına öncelik vermeye odaklanıyor. Bu, LLM’yi farklı şekilde eğitmek için hızlı mühendislik kullanmayı veya daha çeşitli veya karmaşık arka uç veri kaynaklarını bağlamayı içerebilir.
Jackson, LLM’leri, üzerinde eğitildikleri tipik olarak birkaç yıllık verilerle ve kurumsal verileri hariç tutan, önceden eğitilmiş bir “kara kutu” olarak tanımladı. Ancak kullanıcılar, API’lere gelişmiş bir arama motoru gibi kurumsal verilere erişme talimatı verebilir. “Böylece, bu şekilde daha ilgili ve güncel içeriğe erişebilirsiniz” dedi.
Insight şu anda ChatGPT ile sözleşmelerin nasıl yazıldığını otomatikleştirmek için bir proje üzerinde çalışıyor. Şirket, standart bir ChatGPT 4.0 modeli kullanarak, onu on binlerce mevcut sözleşme kitaplığına bağladı.
Kuruluşlar gibi LLM uzantılarını kullanabilir Dil Zinciri veya Microsoft’un Azure Bilişsel Arama Üretken AI aracı verilen bir göreve göre kurumsal verileri keşfetmek.
Insight’ın durumunda, genAI, şirketin hangi sözleşmeleri kazandığını keşfetmek, bunlara öncelik vermek ve ardından müşteriler için gelecekteki sözleşmelerin yazılmasını otomatikleştirmek üzere CRM verileriyle çapraz referans vermek için kullanılacaktır.
Standart SQL veritabanları veya dosya kitaplıkları gibi bazı veri kaynaklarına bağlanmak kolaydır; AWS bulut veya özel depolama ortamları gibi diğerlerinin güvenli bir şekilde erişmesi daha zordur.
“Pek çok insan, kendi verilerini içine almak için modeli yeniden eğitmeniz gerektiğini düşünüyor ve durum kesinlikle bu değil; Bu, modelin nerede yaşadığına ve nasıl yürütüldüğüne bağlı olarak gerçekten riskli olabilir,” dedi Jackson. “Azure içinde bu OpenAI modellerinden birini kolayca kurabilir ve ardından o özel kiracı içindeki verilerinize bağlanabilirsiniz.”
Jackson, “Tarih bize, insanlara doğru araçları verirseniz daha üretken hale geldiklerini ve kendi çıkarları için çalışmanın yeni yollarını keşfettiklerini söylüyor,” diye ekledi. “Bu teknolojiyi benimsemek, çalışanlara çalışma biçimlerini geliştirmek ve yükseltmek ve hatta bazıları için yeni kariyer yolları keşfetmek için benzeri görülmemiş bir fırsat sunuyor.”
Telif hakkı © 2023 IDG Communications, Inc.