Yapay zekaya güvenen finansal kurumlar o kadar da iyi bir fikir olmayabilir. Yalnızca AI halüsinasyonları yanlış analizlere yol açmaz, aynı zamanda AI sohbet robotları da piyasayı manipüle edebilir ve onu çökertebilir.
Üretken yapay zekanın finansal piyasalar üzerindeki potansiyel etkisi, ABD Menkul Kıymetler ve Borsa Komisyonu (SEC) içinde endişelere yol açtı.
Pazartesi günü Ulusal Basın Kulübü’nde yaptığı bir konuşmada, SEC Başkanı Gary Gensler, üretici yapay zekanın artan etkisiyle ilgili endişelerini dile getirdi. Bu teknolojideki son gelişmelerin, kurumların karar vermek için sınırlı bir bilgi kümesine güvenmesine nasıl yol açabileceğinin altını çizdi.
Halüsinasyonlar yanlış bir güvenlik duygusu yaratabilir
Gensler, veri ve bilgi işlem gücüne yönelik yüksek talebin, alanı kontrol eden birkaç baskın teknoloji platformuyla sonuçlanabileceğini ve böylece şirketlerin kullanabileceği yapay zeka modelleri yelpazesini kısıtlayabileceğini vurguladı.
İlgili Makaleler
Jack Ma, Çin medyasına Alibaba’nın ABD için anlaşılması zor bir şirket olduğunu söyledi
Hisse senedi piyasaları dalgalı bir seyir izliyor: Sensex, Nifty 124 puan düştü; banka hisseleri düşük performans gösteriyor
Belirli bir model yanlış veya alakasız veriler sağlıyorsa, finansal kurumlar bilmeden aynı hatalı bilgilere dayanarak hatalı kararlar verebilir. Bu durum, bankaların körü körüne kredi noterlerinin liderliğini takip ettiği veya Silicon Valley Bank’ta Twitter’ın körüklediği bir hücuma yenik düştüğü 2008 mali krizine benzer bir durum riskini taşıyor.
Gensler, böyle bir senaryonun potansiyel sonuçları ile 2008 krizi arasında bir paralellik kurarak, finans sektöründe merkezi bir veri seti veya modelle ilgili tehlikelerin altını çizdi.
AI sistemleri, finans sektöründe önemli bir süredir kullanılmaktadır. Sigorta şirketleri ve alacaklılar, kredi kararları için finansal verileri analiz etmek üzere algoritmalardan ve doğal dil işlemeden yararlanır. Ticaret firmaları, dolandırıcılığı tespit etmek ve piyasa sinyallerini hızlı bir şekilde belirlemek için yapay zekaya güvenir.
AI’nın finansal piyasalar ve enstrümanlar üzerindeki etkisi
Gensler konuşmasında öncelikle “zamanımızın en dönüştürücü teknolojisi” olarak adlandırdığı büyük dil modellerine (LLM’ler) ve üretken yapay zekaya odaklandı. Bununla birlikte, tartışması, aynı riskleri ve endişeleri oluşturmasalar da, zaman zaman bu belirli teknolojileri daha geniş yapay zeka kategorisiyle harmanladı. Gensler, üretken yapay zekanın finansta henüz geniş çapta benimsenmediğini kabul etti.
Bu, Gensler’in yapay zekanın finansal piyasalar üzerindeki etkisiyle ilgili endişelerini dile getirdiği ilk örnek değil. MIT’de geçirdiği süre boyunca, Lily Bailey ile birlikte mevcut düzenleyici yapılarda finansta yapay zeka kullanımının düzenlenmesindeki zorlukları inceleyen bir makalenin ortak yazarlığını yaptı.
SEC, AI düzenlemesine aktif olarak dahil oldu ve 2018’de AI, kripto para birimleri ve diğer fintech konularıyla ilgili sorguları ele almaya adanmış bir kaynak merkezi olan FinHub’ı kurdu.
Gelişen teknolojiler ve hukuk ihlalleri
Ajans ayrıca, yasayı ihlal ettikleri düşünülürse, gelişmekte olan teknolojilerde, özellikle kripto alanında faaliyet gösteren şirketlere karşı yasal işlemler başlattı.
Ayrıca SEC, politikalarını uygulamak için piyasa gözetimi için makine öğreniminden yararlanır.
Gensler, güçlü teknolojilerdeki gelişmelere uyum sağlamak için mevcut risk yönetimi kılavuzlarının güncellenmesi gerektiğini vurguladı. Bununla birlikte, finans sektöründe bu tür teknolojilerin kullanımına ilişkin toplu bir yeniden değerlendirme olasılığını da önerdi.
Diğer devlet kurumlarının da AI şirketleri hakkında soruşturma başlattığını belirtmekte fayda var. Son zamanlarda FTC, OpenAI ile ilgili soruşturmasını duyurdu.
