Yapay zeka destekli bir hava durumu uygulaması kullandığınızı ve piknik planlamak için mükemmel olan açık gökyüzünü duyurduğunuzu hayal edin. Ama sonra kendinizi yağan yağmurun altında, elinizde sırılsıklam bir sandviçle buluyorsunuz. Şimdi şirketinizin müşteri desteği için bir yapay zeka aracı uyguladığını, ancak bunun CRM’nizle zayıf bir şekilde entegre olduğunu ve değerli müşteri verilerini kaybettiğini hayal edin.
Birine göre yeni çalışmaüçüncü taraf yapay zeka araçları, işletmelerde yapay zeka ile ilgili hataların %55’inden fazlasından sorumludur. Bu başarısızlıklar itibarın zedelenmesine, mali kayıplara, tüketici güveninin kaybına ve hatta davalara yol açabilir. MIT Sloan Management Review ve Boston Consulting Group tarafından yürütülen anket, kuruluşların sorumlu yapay zekaya nasıl yaklaştıklarına odaklanarak bunu yapmamanın gerçek dünyadaki sonuçlarını vurguladı.
Armilla AI Yapay Zeka Politikası Başkanı Philip Dawson, “Şirketler üçüncü taraf risk yönetimi programlarını yapay zeka bağlamına veya üretken yapay zeka ürünleri gibi karmaşık sistemleri güvenli bir şekilde dağıtmanın zorluklarına tam olarak uyarlamadı” dedi. “Birçoğu yapay zeka tedarikçilerini veya ürünlerini siber güvenlik için gerçekleştirilen değerlendirme türlerine tabi tutmuyor, bu da onları üçüncü taraf yapay zeka çözümlerinin uygulanmasının risklerine karşı kör bırakıyor.”
İşletmelerin %53’ü yalnızca üçüncü taraf araçları kullanıyor
Neredeyse bir yıl önce ChatGPT’nin piyasaya sürülmesi, üretken bir yapay zeka teknolojisi patlamasını ateşledi. Microsoft Bing ve Google Bard da dahil olmak üzere diğer şirketlerin OpenAI’yi takip etmesi ve kendi AI sohbet robotlarını başlatması uzun sürmedi. Bu robotların popülaritesi ve yetenekleri aynı zamanda zorluklara ve etik sorulara da yol açmıştır.
ChatGPT’nin bağımsız bir uygulama ve API olarak popülaritesi hızla artarken, üçüncü taraf şirketler onun gücünden yararlanmaya ve müşteri desteği, BT desteği ve hatta dilbilgisi kontrolü için üretken yapay zeka çözümleri üretmek üzere benzer yapay zeka sohbet robotları geliştirmeye başladı.
87 ülkedeki 1.240 anket katılımcısının %78’i, şirketlerinin üçüncü taraf yapay zeka araçlarına erişerek, bunları satın alarak veya lisanslayarak kullandığını söyledi. Bu şirketlerin %53’ü herhangi bir şirket içi yapay zeka teknolojisi olmaksızın yalnızca üçüncü taraf araçları kullanıyor. Ankete katılan şirketlerin dörtte üçünden fazlası üçüncü taraf yapay zeka araçlarını kullanırken, yapay zeka ile ilgili hataların %55’i bu araçların kullanımından kaynaklanıyor.
Üçüncü taraf sağlayıcılardan gelen yapay zeka, kuruluşların yapay zeka stratejilerinin ayrılmaz bir parçası olabilir
Ankete katılan şirketlerin %78’i üçüncü taraf yapay zeka araçlarını kullanıyor olsa da %20’si bunların oluşturduğu riskleri değerlendirmemiş. Çalışma, ekiplerin denetim olmadan tedarikçilere güvendiği durumlarda sorumlu yapay zekaya (RAI) ulaşmanın daha zor olduğu ve üçüncü taraf araçların daha fazla değerlendirilmesi gerektiği sonucuna varıyor.
Yapay zekadan sorumlu başkan Triveni Gandhi’ye göre, “Finansal hizmetler gibi düzenlemeye tabi sektörlerdeki müşterilerimizde, bir tür dış düzenlemeye dayanan model risk yönetimi uygulamaları ile insanlara risk perspektifinden yapmalarını önerdiğimiz şeyler arasında güçlü bağlantılar görüyoruz. RAI” Yapay zeka şirketi Dataiku.
Üçüncü taraf sağlayıcılardan gelen yapay zeka, kuruluşların yapay zeka stratejilerinin ayrılmaz bir parçası olabilir; dolayısıyla sorun, teknolojiyi kaldırarak çözülemez. Bunun yerine araştırmacılar tedarikçi denetimleri, dahili incelemeler ve endüstri standartlarına bağlılık gibi kapsamlı risk değerlendirme stratejileri önermektedir.
RAI düzenleyici ortamının ne kadar hızlı geliştiği göz önüne alındığında araştırmacılar, kuruluşların düzenleyici departmanlardan CEO’ya kadar sorumlu yapay zekaya öncelik vermesi gerektiğini söylüyor. CEO’su RAI’ye dahil olan kuruluşlar, CEO’su RAI’ye doğrudan dahil olmayan kuruluşlara kıyasla %58 daha fazla ticari kar bildirdi.
Çalışma ayrıca, CEO’su RAI’ye dahil olan kuruluşların, CEO’su dahil olmayan kuruluşlara göre RAI’ye yatırım yapma olasılığının neredeyse iki kat daha fazla olduğunu ortaya çıkardı.
Kaynak : “ZDNet.com”