Uzun süren coşku dolu bir yılın ardından, akşamdan kalmalık sonunda geldi. Piyasa, büyük oyuncuların (Nvidia, Microsoft ve Google gibi) hisse senedi fiyatlarını düzeltirken, diğer oyuncular piyasayı yeniden değerlendirip önceliklerini ayarlarken, bu durum (şimdilik) nazik bir durum. Gartner buna hayal kırıklığı çukuru diyorilgi azaldığında ve uygulamalar vaat edilen atılımları gerçekleştiremediğinde. Teknolojinin üreticileri sarsılır veya başarısız olur. Yatırım ancak hayatta kalan sağlayıcılar ürünlerini erken benimseyenlerin memnuniyetine göre geliştirirse devam eder.
Açık konuşalım, durum her zaman böyle olacaktı: Yapay zeka taraftarlarının vaat ettiği insan sonrası devrim hiçbir zaman gerçekçi bir hedef olmadı ve ilk LLM’lerin tetiklediği inanılmaz heyecan da piyasa başarısına dayanmıyordu.
Yapay zeka burada kalmaya geldi
Peki AI için sırada ne var? Gartner hype döngüsünü izlerse, derin çöküşün ardından olgunlaşan teknolojinin yeniden ayağa kalktığı, faydaların belirginleştiği ve satıcıların ikinci ve üçüncü nesil ürünleri pazara sunduğu aydınlanma eğimi gelir. Ve her şey yolunda giderse, bunu üretkenliğin kutsal platosu izler ve burada ana akım benimseme, teknolojinin geniş pazar çekiciliği tarafından yönlendirilir. Gartner, birkaç büyük eğer olduğunu iddia ediyor: her teknoloji çöküşten sonra toparlanmaya mahkum değildir ve önemli olan ürünün pazar uyumunu yeterince hızlı bulmasıdır.
Şu anda, AI’nın burada kalacağı neredeyse kesin görünüyor. Apple ve Google, teknolojiyi daha küçük, sindirilebilir, kullanımı kolay parçalara (fotoğraf düzenleme, metin düzenleme, gelişmiş arama) yeniden paketleyen tüketici ürünlerini pazara sunuyor. Kalite hala çok düzensiz olsa da, en azından bazı oyuncuların üretken AI’yı anlamlı bir şekilde – hem tüketiciler hem de kendi karları için – üretmenin bir yolunu bulmuş gibi görünüyor.
LLM bize ne kazandırdı?
Tamam, bu kurumsal müşterileri – ve özellikle siber güvenlik uygulamalarını – nerede bırakıyor? Gerçek şu ki, üretken AI’nın hala ölçekte benimsenmesini engelleyen önemli dezavantajları var. Bunlardan biri, üretken AI’nın temelde belirsiz doğasıdır. Teknolojinin kendisi olasılıklı modellere dayandığından (bir özellik, bir hata değil!), çıktıda bir farklılık olacaktır. Bu, eski tarz yazılım davranışları bekleyen bazı sektör gazilerini korkutabilir. Ayrıca, üretken AI’nın mevcut araçlar için anında bir yedek olmayacağı anlamına gelir – daha ziyade mevcut araçlar için bir geliştirme ve takviyedir. Yine de, saldırganlar için de tahmin edilmesi zor olan çok katmanlı bir savunmanın bir katmanı olarak performans gösterme potansiyeline sahiptir.
Benimseme sürtüşmesine neden olan diğer dezavantaj maliyettir. Modeller eğitilmesi çok masraflı ve bu yüksek maliyet şu anda modellerin tüketicilerine yansıtılıyor. Sonuç olarak, sorgu başına maliyeti düşürmeye çok fazla odaklanılıyor. Donanım geliştirmeleri, modelleri iyileştirmedeki çığır açan sonuçlarla birleştiğinde, çalışan AI modellerinin enerji kullanımında önemli düşüşler vaat ediyor ve (en azından metin tabanlı çıktının) karlı bir işe dönüşeceği konusunda makul bir beklenti var.
Daha ucuz ve daha doğru modeller harika ancak bu modelleri kurumsal iş akışlarına entegre etme görevinin önemli bir zorluk olacağı giderek daha fazla fark ediliyor. Bir toplum olarak, yapay zeka teknolojilerini günlük iş uygulamalarına nasıl verimli bir şekilde entegre edeceğimizi bilme deneyimimiz henüz yok. Ayrıca, mevcut insan iş gücünün yeni teknolojileri nasıl kabul edeceği ve bunlarla nasıl çalışacağı sorusu da var. Örneğin, insan çalışanların ve müşterilerin doğruluktan ziyade açıklanabilirliği tercih eden bir modelle etkileşime girmeyi tercih ettiği durumlar gördük. Mart 2024 çalışması Harvard Tıp Fakültesi tarafından yapılan bir çalışmada, AI yardımının etkisinin radyologlardan oluşan bir test örneği boyunca tutarsız ve değişken olduğu, bazı radyologların performansının AI ile iyileşirken diğerlerinde kötüleştiği bulunmuştur. Öneri, AI araçlarının klinik uygulamaya dahil edilmesi gerektiği ancak hastalar için en iyi sonuçları garantilemek için nüanslı, kişiselleştirilmiş ve dikkatlice kalibre edilmiş bir yaklaşımın benimsenmesi gerektiğidir.
Daha önce bahsettiğimiz pazar uyumu ne olacak? Üretken AI (muhtemelen) asla bir programcının yerini almayacak olsa da (bazı şirketler ne iddia ederse etsin), AI destekli kod üretimi çeşitli senaryolar için kullanışlı bir prototipleme aracı haline geldi. Bu, siber güvenlik uzmanları için halihazırda kullanışlıdır: üretilen kod veya yapılandırma, onu iyileştirmeden önce bir şeyi hızlıca oluşturmak için makul bir başlangıç noktasıdır.
Büyük uyarı: Mevcut teknoloji, üretilen metni (kod veya yapılandırma) hızla hata ayıklayıp düzeltebilen deneyimli bir profesyonelin işini hızlandırma şansına sahiptir. Ancak bu, alanda deneyimli olmayan bir kullanıcı için potansiyel olarak felaket olabilir: Her zaman güvenli olmayan yapılandırma veya güvenli olmayan kod üretilme ihtimali vardır ve bu, üretime geçerse kuruluşun siber güvenlik duruşunu düşürebilir. Bu nedenle, diğer tüm araçlar gibi, ne yaptığınızı biliyorsanız yararlı olabilir ve bilmiyorsanız olumsuz sonuçlara yol açabilir.
Burada, mevcut jenerasyon üretken AI araçlarının özel bir özelliği hakkında uyarmamız gerekiyor: sonuçları ilan ederken aldatıcı bir şekilde kendinden emin görünüyorlar. Metin açıkça yanlış olsa bile, mevcut araçların tümü bunu acemi kullanıcıları kolayca yanıltan kendinden emin bir şekilde sunuyor. Bu nedenle, şunu unutmayın: bilgisayar ne kadar emin olduğu konusunda yalan söylüyor ve bazen çok yanlış oluyor.
Başka bir etkili kullanım örneği müşteri desteğidir, daha spesifik olarak seviye 1 desteğidir – kılavuzu veya yayınlanan SSS’leri okumaya zahmet etmeyen müşterilere yardım etme yeteneği. Modern bir sohbet robotu basit soruları makul bir şekilde yanıtlayabilir ve daha gelişmiş sorguları daha yüksek destek seviyelerine yönlendirebilir. Bu, müşteri deneyimi açısından tam olarak ideal olmasa da, maliyet tasarrufları (özellikle çok sayıda eğitimsiz kullanıcıya sahip çok büyük kuruluşlar için) anlamlı olabilir.
Yapay zekanın işletmelere nasıl entegre edileceği konusundaki belirsizlik yönetim danışmanlığı sektörü için bir nimetÖrneğin, Boston Consulting Group artık gelirinin %20’sini AI ile ilgili projelerden elde ederken McKinsey bu yıl gelirinin %40’ının AI projelerinden gelmesini bekliyor. IBM ve Accenture gibi diğer danışmanlık şirketleri de bu projede yer alıyor. İş projeleri oldukça çeşitli: reklamları bir dilden diğerine çevirmeyi kolaylaştırmak, tedarikçileri değerlendirirken tedarik için gelişmiş arama ve halüsinasyondan kaçınan ve güvenilirliği artırmak için kaynaklara referanslar ekleyen sertleştirilmiş müşteri hizmetleri sohbet robotları. ING’deki 5000 müşteri sorgusundan yalnızca 200’ü Sohbet Robotu üzerinden geçse de, yanıtların kalitesi arttıkça bunun artması beklenebilir. İnternet aramasının evrimine benzer şekilde, veri bataklığında dolaşmak yerine “bota sor” tepkisinin dizginlenemez bir tepki haline geldiği bir dönüm noktası hayal edilebilir.
Yapay Zeka Yönetimi siber güvenlik endişelerini ele almalıdır
Belirli kullanım durumlarından bağımsız olarak, yeni AI araçları yepyeni bir siber güvenlik baş ağrısı seti getiriyor. Geçmişteki RPA’lar gibi, müşteriye bakan sohbet robotlarının kurumsal sistemlere uygun, bazen ayrıcalıklı erişime sahip makine kimliklerine ihtiyacı vardır. Örneğin, bir sohbet robotunun müşteriyi tanımlayabilmesi ve CRM sisteminden bazı kayıtları çekebilmesi gerekebilir – bu da IAM gazileri için hemen alarmlar çalmalıdır. Doğru ayarlama erişim kontrolleri Bu deneysel teknolojinin etrafında şekillenecek çalışmalar, uygulama sürecinin önemli bir parçası olacak.
Aynısı Dev veya DevOps süreçlerinde kullanılan kod oluşturma araçları için de geçerlidir: Kod deposuna doğru erişimi ayarlamak, bir şeyler ters gittiğinde patlama yarıçapını sınırlayacaktır. Ayrıca, AI aracının kendisi bir siber güvenlik sorumluluğu haline gelirse, olası bir ihlalin etkisini de azaltır.
Ve tabii ki, her zaman üçüncü taraf riski vardır: Bu kadar güçlü ancak az anlaşılan bir aracı getirerek, kuruluşlar LLM teknolojisinin sınırlarını araştıran rakiplere kendilerini açıyorlar. Buradaki göreceli olgunluk eksikliği sorunlu olabilir: LLM’leri güçlendirmek için henüz en iyi uygulamalarımız yok, bu yüzden hassas yerlerde yazma ayrıcalıklarına sahip olmadıklarından emin olmalıyız.
IAM’de AI için fırsatlar
Bu noktada, kullanım durumları ve fırsatlar Erişim kontrolünde ve IAM’de AI şekil alıyor ve ürünlerde müşterilere sunuluyor. Rol madenciliği ve hak önerileri gibi klasik ML’nin geleneksel alanları, rol oluşturma ve evriminin hazır yönetim iş akışlarına ve kullanıcı arayüzlerine daha sıkı bir şekilde örülmesiyle modern yöntemler ve kullanıcı arayüzleri ışığında yeniden ele alınıyor. Akran grubu analizi, karar önerileri ve davranış odaklı yönetim gibi daha yeni AI’dan ilham alan yenilikler, Kimlik Yönetimi dünyasında normal hale geliyor. Müşteriler artık SSO Erişim Yönetimi sistemleri ve Ayrıcalıklı Hesap Yönetim sistemleri Kullanıcı davranışlarına ve oturumlarına dayalı yapay zeka destekli anormallik ve tehdit tespiti sunmak.
Doğal dil arayüzleri, tüm bu kategorilerdeki kullanıcı deneyimini önemli ölçüde iyileştirmeye başlıyor IAM çözümü Sistemle etkileşimli doğal dil alışverişlerine izin vererek. Hala statik raporlara ve panolara ihtiyacımız var ancak farklı sorumluluklara ve ihtiyaçlara sahip kişilerin kendilerini doğal dilde ifade edebilmeleri ve arama sonuçlarını etkileşimli olarak daraltabilmeleri, kuruluşların bu sistemlerden değer elde etmesini sağlamak için gereken becerileri ve eğitimi azaltır.
Bu başlangıcın sonu
Kesin olan bir şey var: 2024 ortalarında AI teknolojisinin durumu ne olursa olsun, bu alanın sonu olmayacak. Üretken AI ve LLM’ler AI’nın sadece bir alt alanıdır ve donanımdaki gelişmeler ve cömert hükümet ve özel araştırma fonları sayesinde AI ile ilgili diğer birçok alan hızla ilerlemektedir.
Olgun, kurumsal kullanıma hazır yapay zeka hangi şekli alırsa alsın, güvenlik uzmanları, üretken yapay zekanın savunma duruşlarına sağlayabileceği potansiyel faydaları, bu araçların mevcut savunmaları delmek için neler yapabileceğini ve deney ters giderse patlama yarıçapını nasıl sınırlayabileceğimizi şimdiden göz önünde bulundurmalıdır.
Not: Bu uzmanca yazılmış makale, One Identity’de Saha Stratejisti olan Robert Byrne tarafından yazılmıştır. Rob, geliştirme, danışmanlık ve teknik satış gibi çeşitli roller üstlenerek BT alanında 15 yılı aşkın deneyime sahiptir. Kariyeri ağırlıklı olarak kimlik yönetimine odaklanmıştır. Rob, Quest’e katılmadan önce Oracle ve Sun Microsystems ile çalışmıştır. Matematik ve bilgisayar alanında Lisans derecesine sahiptir.