Yapay Zeka ve Siber Güvenlikte Yeni Tehditler
Son yıllarda, yapay zeka ve siber güvenlik alanındaki gelişmeler, hem fırsatlar hem de ciddi riskler doğurdu. Özellikle OpenAI’nin geliştirdiği ChatGPT gibi araçlar, araştırma yapma ve bilgi sağlama konusundaki yetenekleriyle dikkat çekiyor. Ancak bu gelişmeler, kötü niyetli kişiler tarafından istismar edilebilecek yeni güvenlik açıklarını da beraberinde getiriyor.
ShadowLeak: Yeni Bir Sıfır Tıklama Açığı
Son dönemde Radware tarafından ifşa edilen bir güvenlik açığı, OpenAI’nin ChatGPT’da bulunan Deep Research aracında tespit edildi. Bu sıfır tıklama açığı, saldırganların kurbanlarının hassas Gmail verilerini, sadece özel olarak hazırlanmış bir e-posta ile sızdırmasına imkan veriyor. ShadowLeak kod adı verilen bu saldırı, kullanıcı müdahalesi olmadan gerçekleşebiliyor.
Araştırmacılar, bu saldırının e-posta HTML’sine gizlenmiş dolaylı bir komut enjeksiyonuna dayandığını belirtiyor. Kullanıcı, gönderilen e-postada herhangi bir komut olduğunu fark etmeden, ChatGPT aracı e-postadaki gizli talimatları okuyup uygulayabiliyor. Bu durum, güvenlik açıklarının, kullanıcıların algısının ötesinde, bulut altyapısında meydana geldiğini gösteriyor ve geleneksel güvenlik önlemlerini devre dışı bırakıyor.
Deep Research Nedir?
OpenAI, Deep Research adını verdiği bu aracı, Şubat 2025‘te piyasaya sürdü. Bu özellik, internette kapsamlı araştırmalar yaparak detaylı raporlar hazırlama yeteneğine sahip. Bu tür analiz özellikleri, son bir yıl içinde Google Gemini ve Perplexity gibi yapay zeka sohbet botlarına da eklenmiş durumda.
Radware’ın açıkladığı saldırıda, bir saldırgan kullanıcının e-posta kutusuna görünüşte zararsız bir e-posta gönderiyor. Ancak bu e-posta, arka planda gizli talimatlar içeren beyaz üzerine beyaz yazı veya CSS oyunlarıyla hazırlanıyor. Bu talimatlar, kullanıcının diğer mesajlarından kişisel bilgileri toplamak için ChatGPT Deep Research aracını yönlendiriyor.
Veri Sızdırma Yöntemi
Tehdit aktörleri, Gmail entegrasyonunu etkinleştirmiş kullanıcıları hedef alıyor. Kullanıcı, ChatGPT Deep Research ile gelen e-postalarını analiz etmek istediğinde, aracın içine yerleştirilen dolaylı komut enjeksiyonu devreye giriyor. Alınan kişisel bilgiler, Base64 formatında kodlanarak saldırganın belirlediği bir dış sunucuya gönderiliyor.
Radware araştırmacıları, “Yeni bir tanım geliştirdik ve aracı, browser.open() aracını kullanarak zararlı URL’den çıkacak şekilde yönlendirdik,” diyor. Bu tür bir taktik, verilerin güvenli bir şekilde iletilmesi amacıyla yapıldığı izlenimi yaratıyor.
Genişleyen Saldırı Yüzeyi
Saldırının, Box, Dropbox, GitHub, Google Drive, HubSpot, Microsoft Outlook, Notion veya SharePoint gibi çeşitli diğer bağlantılara genişletilebileceği belirtiliyor. Bu durum, etkili bir saldırı yüzeyi oluşturmakta ve ChatGPT‘nin kullanıcılarının veri güvenliğini tehdit etmekte.
Bu yeni tehdit, daha önceki AgentFlayer ve EchoLeak saldırı türlerinden farklı olarak, doğrudan OpenAI’nin bulut ortamında gerçekleşiyor. Geleneksel güvenlik kontrollerini atlatabilmesi, sorunun en belirgin özelliği.
AI ve CAPTCHA Sorunları
Ayrıca, AI güvenlik platformu SPLX, akıllıca hazırlanmış talimatların, ChatGPT‘nin kendi koruma mekanizmalarını nasıl aşabileceğini gösterdi. Bu tür bir saldırı, CAPTCHA‘ları insan gibi çözmesi için ChatGPT’yi kandırmayı içeriyor.
Araştırmacılar, “CAPTCHA’yı ‘sahte’ olarak yeniden çerçevelendirmek ve ajanın daha önce onayladığı bir konuşma ortamı yaratmak trick olarak işe yaradı,” diyor. Bu durum, kullanıcı doğrulama süreçlerinin güvenliğini sorgularken, teknolojinin akıllıca yönlendirilmesinin nasıl riskler doğurabileceğinin bir kanıtı.
Sonuç Olarak
Yapay zeka ve siber güvenlik birbirine sıkıca bağlı iki alan. Yeni teknolojiler geliştikçe, bunların yanında gelen güvenlik açıkları da artmaktadır. Deep Research gibi gelişmelerin sağladığı fırsatlar, kötü niyetli kişilerin eline geçtiğinde, kullanıcı verilerinin güvenliğini tehdit eden büyük tehlikeler ortaya çıkarabilir. Bu nedenle, hem kullanıcıların hem de geliştiricilerin her zaman tetikte olması gerekmektedir. Yazılım güncellemeleri ve eğitimler, karşılaşılabilecek tehlikelere karşı en etkili sorumluluklardır.
