LangChain’deki Güvenlik Açığı ve Etkileri
Son dönemlerde siber güvenlik alanında dikkat çeken gelişmelerden biri, LangChain’in LangSmith platformunda tespit edilen bir güvenlik açığıdır. Araştırmacılar, kötü niyetli kişilerin API anahtarları ve kullanıcı istemleri gibi hassas verileri ele geçirebileceği bu açığın, CVSS puanının 8.8 olarak belirlendiğini duyurdular. Bu güvenlik açığı, Noma Security tarafından "AgentSmith" olarak adlandırıldı.
LangSmith, kullanıcıların büyük dil modelleri (LLM) uygulamalarını geliştirebilmelerini, test edebilmelerini ve izleyebilmelerini sağlayan bir gözlem ve değerlendirme platformudur. Aynı zamanda kullanıcıların tüm kamuya açık istemlerini, ajanlarını ve modellerini depolayabildiği LangChain Hub olarak bilinen bir hizmet sunar.
Vulnerabilite Hakkında Daha Fazla Bilgi
Siber güvenlik uzmanları, bu yeni güvenlik açığının, kullanıcıların dikkatini çekmeden, onların bilgisi olmadan nasıl istismar edildiğini açıkladılar. Araştırmacılar Sasi Levi ve Gal Moyal, olayı detaylandırarak, kötü niyetli bir oyuncunun, "Prompt Hub" üzerine yüklü önceden yapılandırılmış bir kötü amaçlı proxy sunucusu içeren bir yapay zeka ajanı oluşturduğunu belirttiler.
Bu ajanın benimsenmesiyle birlikte, kötü niyetli proxy, kullanıcı iletişimlerini gizlice ele geçiriyor; bu iletişimlere API anahtarları, kullanıcı istemleri, belgeler, görseller ve ses girdileri gibi hassas veriler de dahil olabiliyor.
İlk Saldırı Aşaması
Saldırının ilk aşaması, bir kötü niyetli aktörün yapay zeka (AI) ajanı oluşturarak, bu ajandaki model sunucusunu kendi kontrolü altında konumlandırmasıyla başlıyor. Bu işlem, Proxy Provider özelliği aracılığıyla gerçekleştiriliyor. Ardından, saldırgan bu ajanı LangChain Hub üzerinden paylaşıyor. Kullanıcı, LangChain Hub’da bu kötü niyetli ajana rastladığında ve "Denemek" için bir girdi sağladığında, tüm iletişimleri saldırganın proxy sunucusu üzerinden yönlendiriyor. Bu durum, kullanıcının bilgisi olmadan verilerinin ele geçirilmesine yol açıyor.
Elde edilen veriler arasında OpenAI API anahtarları, istem verileri ve yüklenen dosyalar yer alabilir. Saldırgan, bu API anahtarlarını kullanarak mağdurların OpenAI ortamlarına yetkisiz erişim sağlamakta, bu da model hırsızlığı ve sistem isteminin sızmasına neden olabilmektedir. Ayrıca, saldırgan, organizasyonun API kotasını tüketerek maliyetleri artırabilir veya OpenAI hizmetlerine erişimini geçici olarak kısıtlayabilir.
Veri Klonlama Riski
Saldırı, mağdurların kötü niyetli proxy yapılandırmasını kendi kurumsal ortamlarına klonlaması durumunda devam edebiliyor. Böylece, değerli verilerin sürekli olarak saldırganlara sızdırılması riski ortaya çıkıyor. Bu süreç, kullanıcıların trafiklerinin izlendiğini anlamadan veya hiçbir belirti olmadan gerçekleşiyor.
27 Ekim 2024 tarihinde, güvenlik açığının sorumlu bir şekilde paylaşılmasının ardından LangChain, bu durumu düzeltmek amacıyla 6 Kasım’da bir yamanın uygulandığını duyurdu. Ayrıca, bu yama ile birlikte kullanıcıların özel proxy yapılandırması barındıran bir ajanın klonlanması esnasında veri sızıntısı hakkında bir uyarı mesajı gösterilmeye başlandı.
Finansal ve Hukuki Riskler
Siber güvenlik uzmanları, izinsiz API kullanımının getirebileceği beklenmedik mali kayıpların yanı sıra kötü niyetli aktörlerin, OpenAI‘ye yüklenen iç veriler üzerinde kalıcı erişim sağlamasının riskini vurguladılar. Bu durum, iş sırları ve diğer fikri mülkiyet konularında hukuki sıkıntılara yol açabileceği gibi, itibar kaybına da neden olabilir.
Yeni WormGPT Varyantları
Cato Networks tarafından yapılan bir açıklamada ise, siber suçluların daha önce rapor edilmemiş iki yeni WormGPT varyantı geliştirdiği bildirildi. WormGPT, öncelikle kötü niyetli faaliyetleri desteklemek amacıyla tasarlanmış bir repo olarak biliniyor. 2023’ün ortalarında piyasaya sürülen bu araç, kötü niyetli e-postalar oluşturma ve zararlı yazılım yazma gibi görevlerde kullanılıyor.
Alex P., adında yalnızca 23 yaşında bir Portekizli programcı tarafından başlatılan WormGPT, kısa sürede kapatılmıştı. Ancak, bu projeden sonra BreachForums gibi siber suç forumlarında pek çok yeni WormGPT varyantı tanıtıldı. Bu varyantlar, kurallardan bağımsızca geniş bir konu yelpazesinde yanıtlar sağlamak için tasarlandılar.
Kötü Niyetli Kullanımlar ve Mücadele Stratejileri
Siber güvenlik araştırmacısı Vitaly Simonovich, "WormGPT" markasının yeni bir uncensored LLM’ler sınıfı için tanınan bir marka haline geldiğini belirtti. Bu yeni varyantlar, sıfırdan özel modeller olarak değil, mevcut LLM’lerin kötü niyetli aktörler tarafından uyarlanması ile oluşturulmaktadır. Sistem istemlerinin manipülasyonu ve yasadışı veriler üzerine ince ayar yapılması, bu araçların siber suç operasyonları için oldukça etkili hale gelmesinde kilit rol oynamaktadır.
Her ne kadar bu özel platformlar tehlikeli görünse de, kullanıcıların güvenlik protokollerine sıkı bir şekilde bağlı kalmaları, bu tür saldırılara karşı önleyici bir strateji olarak öne çıkıyor. Siber güvenliğin sürekli gelişen bir alan olması, kullanıcıların bilinçli ve dikkatli olmalarını zorunlu kılmaktadır.
