Finansal hizmetler sektörü, son birkaç yıldır müşterilerin finansal verilerini kontrol ettiği “açık bankacılık” modelinin geleneksel modelin yerini almasıyla birlikte bir çalkantı yaşadı. Bu değişiklik, sektörü dijital teknolojinin benimsenmesini hızlandırmaya zorladı.
Aynı zamanda, müşteri verileri finansal hizmetler sektörünün merkez üssünde kalmaya devam ediyor; dolayısıyla bunların korunması, saklanması ve kullanılması ihtiyacı önem kazanıyor. Büyük veri ve ileri analitiklerin yanı sıra yapay zeka, finansal hizmetlerin hassas verileri korurken rekabetçi kalma arayışında da yeni sınırdır.
Yapay zeka, finansal hizmetlerde talep ve gelir tahmini, anormallik ve hata tespiti, karar desteği, nakit tahsilatları ve çok sayıda başka kullanım durumu için kullanılabilir.
Finansal hizmetler aynı zamanda tüm pazarlar arasında en fazla düzenlemeye tabi olanlardan biridir; bu nedenle, daha iyi ürün ve hizmetler yaratmanın yanı sıra verimliliği artırmak için en son teknolojiyi kullanma kaynaklarına sahip olsa da risk her zaman bir endişe kaynağıdır.
Finansal Hizmetleri Keşfedin müşteri hizmetleri yinelemelerini özetlemek ve sahtekarlık tespiti gibi süreçlerinde verimlilik yaratmak için yapay zekayı yavaş yavaş araştırıyor.
Raghu KulkarniRaghu Kulkarni
Raghu Kulkarni, Discover Financial Services’in kıdemli başkan yardımcısı ve baş veri bilimi sorumlusudur ve firmada ilk büyük dil modelini (LLM) kullanıma sunmadan önce yaptığı ilk şeylerden biri, Yapay zeka yönetişim konseyi Tekrarlanabilir süreçlerin ve korumaların sağlanması.
Kalkarni, Computerworld’e yapay zekayı kullanma yaklaşımı ve ekibinin yapay zekanın güvenli ama verimli kullanımını sağlamak için kurduğu korkuluklar hakkında konuştu.
Discover’daki göreviniz nedir? Rolümün iki veya üç kısmı var. İlk bölüm karar verme modellerinin geliştirilmesidir. Modellere karar vermekle ne demek istiyorum? İnsanların bir karta veya krediye başvurması gibi, sigortacılık modelleri geliştiriyoruz. Canlı yönetim modelleri geliştiriyoruz. Dolandırıcılığı veya kara para aklamayı tespit edebilecek modeller geliştiriyoruz. Yani perde arkasında bu alanların her birini tasvir eden çok sayıda analiz var.
“Mağazamız, sigortalama, yalan yönetimi, dolandırıcılığı ve tahsilatları tespit edebilen makine öğrenimi modelleri geliştiriyor. [financial product] bir müşterinin yaşam döngüsü. Bunun ötesinde bu modelleri geliştireceğimiz bir platforma ve bu modelleri uygulayacağımız bir temele ihtiyacımız var. Dolayısıyla veri bilimini nasıl arka uçta kullanacağımızın mühendisliği de benim yetki alanıma giriyor.”
Discover, verimlilik yaratmak, müşteri hizmetlerini iyileştirmek vb. için yapay zekayı hangi şekillerde kullandı?.? “Öncelikle, sorumlu bir yapay zeka sağlamak istiyorsunuz. Yani önyargı olmadığından ve doğru olduğundan emin olmak istiyorsunuz. İlk işim, kullandığım şeyin arkasındaki matematiği anlamak. Yapay zeka ve makine öğrenimi alanında statik denetimli öğrenmeyi kullanıyoruz. bilinen veriler ve bilinen hedef.Çok tanımlanmış bir sorun bildirimimiz var.Bununla birlikte, şirkete girmek ve dolandırıcılığı tespit etmek için satın almalara yardımcı olacak modeller kullanıyoruz.
“Müşteri hizmetleri söz konusu olduğunda yapay zekanın gerçekten devreye girdiği nokta burası. Diyelim ki çağrıların özetlerine bakmak istiyoruz. Bunun için genAI modellerimiz var. Ve genAI terimi çok geniş bir şekilde kullanıldı. ChatGPT kullanımı gerçekten genişletti, ancak genAI önceden öyleydi NLP için sinir ağları [natural language processing]. Müşteri temsilcilerini anlayıp yardımcı olabilecek, oldukça açıklanabilir NLP’leri ve temel seviyedeki LLM’leri tercih ediyorum.
“Ne yaparsak yapalım döngüde her zaman bir insan var. Bu modeller insanlara yardımcı olmak için tasarlandı. Tüm matematiği anladığımızdan emin olmak istiyoruz ama aynı zamanda çıktıda bir insanın da olduğundan emin olmak istiyoruz.” Çıktının somut olduğundan emin olun.”
Bugün Discover’da acil bir mühendislik işi göreviniz var mı? “Henüz yapmadık. Ancak üretken yapay zeka ile bu önemli bir alan haline gelecek. Şu anda elimizde veri mühendisleri, uygulama geliştiricileri ve matematiksel modelleri API’lere dönüştürebilen kişiler var. İşte bu da öyle. bugün elimizde.”
Hızlı mühendisin gelecekte bir iş unvanı haline geleceğini görüyor musunuz? “Bunun bir iş unvanı haline geldiğini görüyorum, ancak düşündüğünüz kadar çabuk değil. ChatGPT’miz yok. Ancak modelde yeterince ince ayar yaparsanız, hızlı mühendislik devreye giriyor. Belki birkaç yıl uzaktayız.”
Discover’ı yapay zeka yönetişim konseyini oluşturmaya iten şey neydi? “Bu yapay zeka alanında, özellikle de genAI ile bunun bir takım sporu olduğunun farkına vardık. Sadece bir veri bilimcinin modeli bunu kesmez. GenAI’nın hem iyi hem de kötü tarafını gördük. Bu nedenle, Siber güvenlik alanındaki ortaklarımız rahattır ve veri gizliliğinin dikkate alındığından emin olmak istiyoruz. [is solid so] Çok fazla hayalim olsa bile onları hayata geçirebilmek ve kullanabilmek istiyorum. Daha sonra model riski, uyumluluk ve yasal konular hakkında konuşmak istiyoruz.
“Yani genAI, risk kontrolleriyle fikir aşamasından gerçekleştirme aşamasına geçebilmemiz için birlikte uyumlu bir şekilde çalışmamız gereken uçtan uca ortakların mantıksal bir birleşimiydi.”
Konseyde kim var; yani işin hangi bölümleri söz sahibi ve neden? “Siber güvenlik başkanımız, mimari başkanımız, model riski başkanımız, uyumluluk riski başkanımız, hukuk ve ben, veri bilimi başkanı. Bu, uçtan uca bir takım sporudur.
“Bu bize gerçekten yardımcı oldu. Koruma olduğunu fark ettik ama aynı zamanda boşluklar da olabilir. Bu nedenle herkesin ne yaptığımızı ve bunun ofislerimize nasıl yardımcı olduğunu anladığından emin olmak istiyoruz.”
Konsey ne tür standartlar oluşturdu? “Geliştikçe politikalar ve standartlar üzerinde çalışıyoruz. Halihazırda uyguladığımız bazı ilkelerimiz var. Birincisi, kullanım durumu nedir? Neyi çözmeye çalışıyoruz? Bu bir çağrı merkezi optimizasyonu mu; duygu analizi mi? Her şey çözmeye çalıştığımız sorunlardan başlıyor. Sonra soruna nasıl bir çözümün uyabileceğini görüyorsunuz. Nasıl bir modele ihtiyacım var?
“Çoğu zaman GPT-2’nin bu işi gerçekten yapabileceğini biliyorsunuz. [GPT] 4, bir Bard’a ya da neyin varsa ona ihtiyacın yok.”
“O halde bunun getirdiği riske, siber güvenlik ilkelerine, mimari ilkelere, yani birlikte tasarlayabileceğimiz şeyler neler, model risk ilkelerine bakmalısınız. Hala kullanıyoruz SR11-7 — bu bizim model risk belgemiz. Bu, Federal Reserve Board’un tahvil modelleri için geçerli bir politikasıdır. Biz buna uyuyoruz. Bunu barındırabilecek kadar geniştir.
“Yani benim açımdan hiçbir şey değişmedi. Hala diğer bankacılık modelleriyle aynı titizliği yaşıyorum. Biz de onu takip ediyoruz. Hukukla konuşuyoruz ve bize bazı ilkeler ve uyum kuralları veriyorlar.”
Düzenleme önerileri standartlarınızı ne şekilde etkiledi? “Onlardan biri de NIST çerçevesi. NIST çerçevesinin yazarlarından biriyle meslektaşımız olarak çalışma fırsatı bulduk. Bugün itibariyle olup biteni takip ediyoruz. Ayrıca ABD Ticaret Odası ve diğerlerinin yapay zeka politikası açısından neler konuştuğunu da takip ediyoruz. Günün sonunda sorumluluk meselesi.
“Aşırı uçlara gitmek istemezsiniz. Ne yaptığımızı görmek istersiniz. Kullanımı riske atın ve ardından mevcut yönergelerin yanı sıra gelişen yönergelere de uyduğunuzdan emin olun. Ve gelişen yönergeler de gelişiyor. Biz hâlâ öğreniyoruz “
Gelişen yönergeleri iç politikalarınıza nasıl dahil edersiniz, özellikle de bu yönergeler yerel, eyalet ve ulusal düzeyde yayınlanırken? “Discover’da, çoğu durumda gelişen yönergelerden daha katı olan mevcut yönergelere uyarız. Bu nedenle açıklanabilirlik, şeffaflık ve önyargıdan bahsettim. Bunların hepsi bizim için temel unsurlardır.
“Sonra gelişen riskler var. Halüsinasyonlarla ne yaparsınız? Bil bakalım yeni kelime halüsinasyon olabilir ama eski kelime model hatasıydı. Peki model hataları neden oluşuyor? Veri eksikliğinden dolayı. Peki, eğer Temel bilgilere ve temel unsurlara sahip olsanız bile yine de [achieve the right policies].
“Yani bunun iki kısmı var. Gelişmekte olan politikaya bakıyoruz ama aynı zamanda onu çok yapılandırılmış ve basit tutuyoruz. Konsey gerçekten yardımcı oluyor çünkü hepimiz hareketli parçaları anlıyoruz ve bunun biraz fazla riskli olduğu bir yer varsa Aslında daha basit bir modeli tercih ediyoruz.”
Yapay zekanın şu anki en büyük tehdidi olarak neyi görüyorsunuz ve neden? “Siber güvenlik arkadaşlarımla konuşursam, bunu dolandırıcılık faaliyetleri gibi karanlık amaçlar için kullanacaklar. Ama aynı zamanda veri gizliliği sorunları da var. Bir veri bilimci olarak bu bir tehditten çok daha fazlası; aslında bunun abartılmasıdır. Bu aslında bir tehdit değil, ancak ‘Yapay zeka dünyayı ele geçirecek’ demek yerine, sanki bizim yaptığımız gibi gerçek tartışmayı kullanıyorsunuz.
“Şu anda sadece belirli belgeleri özetliyoruz. Evrimleşecek. Çok daha fazla işe yarayacak. Ancak bankacılık ve bankacılık düzenlemeleri söz konusu olduğunda basit, anlaşılır ve şeffaf olmak istiyoruz.”
Genel yapay zeka statüsüne yaklaşırken yapay zekanın gelecekte ortaya çıkaracağı en büyük tehdit olarak neyi görüyorsunuz? “Hâlâ siber güvenliği ve yapay zekanın silah haline getirildiğini hissediyorum. Dürüst olmak gerekirse ben daha iyimserim. Her tehdidin bir çözümü vardır. Dolandırıcılık faaliyeti varsa, o zaman bir dolandırıcılık modelimiz de vardır. Yani her zaman karşı koyacağımız iyi insanlar vardır. Ben bu konuda böyle hissediyorum.”
Yapay zeka nedeniyle güvenlik, gizlilik ve mevzuatla ilgili zorluklarla karşılaşan diğer işletmelere ne gibi tavsiyeleriniz var? “Birlikte çalışmak. Tek bir departman değil. Bu teknoloji iyi bir etki yaratacak ancak uçtan uca sorumlu olmamız gerekiyor. İkincisi, konuyu basit tutacağım. Tüm düzenlemelere uyun. Simülasyonlar yoluyla öğrenin. Daha basit modellerle öğrenin. Şeffaf ve açıklanabilir olsun.”
Gelecekte, büyük dil modellerinin daha fazla alana, hatta işe özgü olacak şekilde küçüleceğini görüyor musunuz? “Bunun olduğunu görüyorum. Bugün bile, milyarlarca, trilyon parametreli bu devasa eğitimli modelleri kullanıyorsanız, yine de verilerinize ince ayar yapmanız gerekir. Bu, bölümlere ayrılmış bir model gibidir. Peki ya bizim verilerimiz üzerinde eğitilmiş bir modeliniz olsaydı?” tüm bu gerçek iş amaçları?
“Kurumları Yüksek Lisans’lara karşı bu alana özgü eğitimli modelleri geliştirmekten alıkoyan şey bilgi işlem gücüdür. Günümüzde üretken yapay zeka hakkındaki tüm konuşmaların nedeni bilgi işlem gücünün yetişmiş olmasıdır. Büyük şirketler bilgi işlem gücünü karşılayabiliyor. Bilgi işlem gücü maliyetleri düştükçe , her alana özgü problemin, kendi kullanımlarına daha uygun olan kendi LLM’si olabilir. Bu yüzden orijinal noktaya geri dönüyorum: çözmeye çalıştığınız problemin ne olduğunu bulun.”
Peki GPT 4 değilse hangi Yüksek Lisans’ı kullanıyorsunuz? “Şu anda NLP ve GPT-2’ye bakıyoruz. Bu süper devasa büyük dil modelleri söz konusu olduğunda çok dikkatli ve dikkatli davranıyoruz. Basit tutalım. Kullanımı görelim. Daha küçük LLM’ler kullandık. Hiçbir şey temel alınmıyor Haberi yapanlar.”
Bu Yüksek Lisans derecelerini şirket içinde mi oluşturdunuz? Açık kaynaklı modellere mi dayanıyorlar? “Bunlar açık kaynak. Bunlar yeterince açıklanabilir ve riskleri ve faydaları görecek kadar yönetilebilir.”
LLM’leriniz ne kadar büyük? “Emin değilim ama milyarlarca ve trilyonlarca değil [of parameters] – belki milyonlarca? Şu anki amacımız dokümanları okumalarını ve döngüde insanla birlikte özetlemelerini sağlamak. Ne kadara ihtiyacın var? [is the question]”
Yüksek Lisans’ları arka uç sistemlere, veritabanlarına ve belgelere nasıl bağlarsınız? “Bu gelecekteki yol haritasının bir parçası. Diyelim ki ben özgür düşünen biriyim ve herhangi bir kısıtlamam yok, ki bunu yapmadığımı söylemiyorum. Sonunda bir vektör veritabanına ihtiyacınız var; onların çok fazla ipucuna ihtiyacı var.” mühendislik ve ince ayar yapılması gerekiyor. Bu mimari ve mevcut düzenlemeyle hala köprü kurmaya çalışıyoruz. Şu anda bunlar, toplam süreyi azaltmak ve ardından döngüye bir insanı dahil etmek için onları çalıştırdığımız toplu modeller. “
Telif Hakkı © 2023 IDG Communications, Inc.