Evet, tüm meslekler üretken yapay zeka (AI) ile ilgileniyor. Kod üreten geliştiricilerden içerik oluşturan pazarlamacılara kadar birçok profesyonel, bu yeni teknolojiyle üretkenliklerini artırmanın yollarını arıyor ve bazen de buluyor.
Ve yapay zekaya yönelik bu koşuşturma diğer dijital teknolojileri de etkiliyor. Analist Gartner şöyle düşünüyor: şirketlerin %80’inden fazlası 2026 yılına kadar üretim ortamlarında uygulama programlama arayüzlerini (API’ler), modelleri ve üretken yapay zeka yazılımlarını kullanacak.
Yine de, bu kadar abartılı reklama rağmen pek çok şirket bu teknolojiyle ilgilenmiyor – en azından resmi olarak.
Şirketlerin %5’i üretimde üretken yapay zeka kullanıyor
Üretken yapay zeka çoğu şirket için hala keşif aşamasındadır ve Gartner şirketlerin %5’inden azının üretimde teknolojiyi kullandığını bildirmektedir.
İngiliz işe alım uzmanı Harvey Nash’in teknoloji sorumlusu Lily Haake, ZDNET’e büyük yapay zeka projelerinin şu anda müşterilerinin gündeminde olmadığı konusunda güvence veriyor.
“Hukuk sektöründeki müşterilerin, kuruluşları daha üretken hale getirmek amacıyla belgeler oluşturmak için yapay zekayı kullanması gibi gerçekten etkileyici bazı küçük pilot projeler görüyorum” diyor. “Her şey çok heyecan verici ve olumlu. Ancak küçük ölçekli. Müşterilerim üretken yapay zekayı tüm işi dönüştürme noktasına kadar keşfediyor gibi görünmüyor.”
Ancak BT profesyonellerinin %44’ü iş hayatında zaten yapay zeka kullanıyor
Bununla birlikte, profesyonellerin patronun onayı olsun ya da olmasın bu teknolojiyi halihazırda kullanmamasının nedeni şirketin üretken yapay zeka kullanımını dayatmamış olması değildir.
O’Reilly tarafından yapılan bir araştırma şunu gösteriyor: BT profesyonellerinin %44’ü halihazırda yapay zeka kullanıyor programlama çalışmalarında ve %34’ü bununla deney yapıyor. BT profesyonellerinin neredeyse üçte biri (%32) veri analizi için yapay zeka kullanıyor ve %38’i bununla deneyler yapıyor.
Raporun yazarı Mike Loukides, O’Reilly’nin evlat edinme düzeyine şaşırdığını söylüyor.
Şirketler riskleri görmezden gelirlerse ‘Yapay Zeka Kışı’na girebilirler
Ancak Loukides, üretken yapay zekanın büyümesini “patlayıcı” olarak nitelendirirken, şirketlerin bu teknolojiyi benimsemek için acele etmenin getirdiği riskleri ve tehlikeleri görmezden gelmeleri halinde “yapay zeka kışına” düşebileceklerine inanıyor.
Bu duygu, CIO’ların kayıtsız kalamayacağını söyleyen Gartner analisti Avivah Litan tarafından da destekleniyor. ZDNET’e “Riskler sizi yönetmeden önce siz onları yönetmelisiniz” diyor.
Bayan Litan, Gartner’ın üretken yapay zekanın riskleri hakkında 700’den fazla yöneticiyle anket yaptığını ve CIO’ların en çok veri gizliliği, ardından halüsinasyonlar ve ardından güvenlik konusunda endişe duyduğunu bulduğunu söylüyor.
Bu alanların her birine sırasıyla bakalım.
1. Gizlilik ve veri korumasına ilişkin riskler
Üretken yapay zekanın kurumsal versiyonunu uygulayan CIO’lar büyük olasılıkla verilerini tedarikçilerinin barındırılan ortamlarına gönderecektir.
Avivah Litan, bu tür mimarinin yeni olmadığını kabul ediyor; kuruluşlar on yıldan fazla bir süredir buluta ve SaaS yazılım sağlayıcılarına veri gönderiyor.
Ancak CIO’ların yapay zekanın, özellikle satıcıların bilgiyi nasıl depoladığı ve kullandığı konusunda, örneğin kendi dil modellerini (LLM’ler) eğitmek için, farklı türde bir risk içerdiğine inandığını söylüyor.
Bayan Litan, Gartner’ın yapay zeka tabanlı hizmetler sunan birçok BT tedarikçisinin ayrıntılı bir analizini yaptığını söylüyor.
“Veri koruma söz konusu olduğunda, üçüncü taraf bir temel model kullanırsanız, her şey güven ile ilgilidir, ancak bunu doğrulayamazsınız” diye açıklıyor. “Dolayısıyla sağlayıcıların iyi güvenlik uygulamalarına sahip olduğundan ve verilerinizin sızdırılmayacağından emin olmanız gerekiyor. Bulut sistemlerinde hataların yapıldığını hepimiz biliyoruz. Gizli verileriniz sızdırılırsa tedarikçiler sorumlu olmayacaktır. , olacak olan sensin.
2. Giriş ve çıkışlarla ilgili riskler
Kuruluşlar, dış süreçlerdeki veri koruma risklerini değerlendirmenin yanı sıra, çalışanların üretken yapay zeka uygulamaları ve modellerindeki verileri nasıl kullandığının da farkında olmalıdır.
Avivah Litan’a göre bu tür riskler, gizli verilerin kötüye kullanılması, halüsinasyonların üretilmesi ve başka bir şirkete ait fikri mülkiyetin kullanılması da dahil olmak üzere karar verme sürecini tehlikeye atabilecek “kabul edilemez” veri kullanımını kapsıyor.
Bunu, modellerin taraflı olduğu ve iş liderlerinin veri girişi ve çıkışıyla ilgili çok sayıda riskle karşı karşıya olduğu yönündeki etik sorular ve endişelerle birleştirin.
Avivah Litan’a göre, üretken yapay zekanın dağıtımını yöneten liderlerin, şirket çalışanlarının bu alanda hiçbir şeyi olduğu gibi kabul etmemelerini sağlaması gerekiyor.
“Verileri ve üretken yapay zekayı kuruluşunuz tarafından kabul edilebilir bir şekilde kullandığınızdan, krallığınızın anahtarlarını başkalarına vermediğinizden ve yanlışlıkları ve halüsinasyonları önlemek için geri gelenlerin doğrulandığından emin olmalısınız”, diye belirtti. diyor.
3. Yeni siber güvenlik riskleri
İşletmeler her gün bilgisayar korsanlarının sistemdeki bir güvenlik açığı veya çalışan hatası nedeniyle şirket verilerine erişmesi gibi bir dizi siber güvenlik riskiyle karşı karşıya kalıyor.
Ancak Avivah Litan’a göre yapay zeka farklı bir tehdit vektörünü temsil ediyor.
“Bunlar yeni riskler” diye açıklıyor. “Hızlı enjeksiyon saldırıları, vektör veritabanı saldırıları var ve bilgisayar korsanları model durumlarına ve parametrelere erişim sağlayabiliyor.”
Riskler arasında veri ve para kaybı yer alsa da, saldırganlar modelleri manipüle etmeyi ve iyi verileri kötü olanlarla değiştirmeyi de seçebilir.
Avivah Litan’a göre bu yeni tehdit vektörü, işletmelerin yeni riskleri yalnızca eski, kanıtlanmış teknikleri kullanarak çözemeyeceği anlamına geliyor.
“Saldırganlar modeli zehirleyebilir” diye açıklıyor. “Modelin etrafında güvenlik oluşturmanız gerekecek ve bu farklı bir güvenlik türüdür. Uç nokta koruması, veri modelini korumanıza yardımcı olmaz.”
Üretken yapay zekayla ilerlemek için işletmenizin şimdi yapması gerekenler
Üretken yapay zeka risklerinin bu kombinasyonu, CIO’lar için aşılmaz bir zorluk gibi görünebilir.
Ancak Avivah Litan, yeni çözümlerin, üretken yapay zekayla ilişkili riskler ve fırsatlar kadar hızlı bir şekilde geliştiğini söylüyor.
“Oturup paniğe kapılmaya gerek yok” diyor. “Yeni bir pazar gelişiyor. Tahmin edebileceğiniz gibi sorunlar olduğunda, o sorunlardan para kazanmak isteyen girişimciler de oluyor.”
İyi haber şu ki çözümler geliştiriliyor. Teknoloji pazarı istikrara kavuştukça Litan, iş dünyasının liderlerinin hazırlık yapması gerektiğini söylüyor.
“CIO’lara verdiğimiz temel tavsiye şudur: ‘Organize olun, ardından kabul edilebilir kullanım politikalarınızı tanımlayın. Verilerinizin sınıflandırıldığından ve erişim yönetimine sahip olduğunuzdan emin olun” diyor.
“Kullanıcıların başvuru isteklerini gönderebilecekleri, hangi verileri kullandıklarını bildiğiniz, bu istekleri doğru kişilerin onayladığı ve sürecin doğru şekilde uygulandığından emin olmak için yılda iki kez süreci kontrol ettiğiniz bir sistem kurun. Üretken yapay zeka kullanılmalı. adım adım.”
Kaynak : “ZDNet.com”