“Barış medeniyetin erdemidir. Savaş ise suçudur. Yine de barışın en keskin araçları çoğu kez savaşın ocağında dövülür.” – Victor Hugo.
1971’de, ARPANET’i oluşturan birkaç bilgisayarda rahatsız edici bir mesaj belirmeye başladı. Bu ARPANET, şu anda İnternet olarak bildiğimiz şeyin öncüsüdür. “Ben Creeper’ım: Eğer yakalayabilirsen beni yakala.” yazan mesaj, ünlü programcı Bob Thomas’ın BBN Technologies’de çalışırken geliştirdiği Creeper adlı bir programın çıktısıydı. Thomas’ın niyetleri kötü niyetli olmasa da, Creeper programı şu anda bilgisayar virüsü dediğimiz şeyin ortaya çıkışını temsil ediyor.
Creeper’ın ARPANET’te görünmesi ilk Antivirüs yazılımının ortaya çıkışına zemin hazırladı. Doğrulanmamış olsa da, e-postayı icat etmesiyle ünlü Ray Thomlinson’ın, Creeper’ı Enfekte Makinelerden kaldırmak için tasarlanmış bir program olan Reaper’ı geliştirdiğine inanılıyor. Bir bilgisayardan kötü amaçlı bir programı savunma amaçlı olarak kovalamak ve kaldırmak için kullanılan bu aracın geliştirilmesi genellikle siber güvenlik alanının başlangıcı olarak anılır. Bir siber saldırının potansiyel gücünün erken tanınmasını ve savunma önlemlerine olan ihtiyacı vurgular.
Siber güvenliğe duyulan ihtiyacın ortaya çıkması çok da şaşırtıcı olmamalı, çünkü siber alem, doğal dünyanın soyutlanmasından başka bir şey değil. Sopa ve taşlarla savaşmaktan kılıç ve mızraklara, şimdi de bombalara ve uçaklara doğru büyüdüğümüz gibi, siber alem için verilen savaş da ilerledi. Başlangıçta her şey, dijital kıyametin habercisi olabilecek şeyin arsız bir temsili olan ilkel bir Creeper virüsüyle başladı. Silahlandırılmış elektronik sistemlerin keşfi, Reaper gibi antivirüs çözümlerinin icat edilmesini gerektirdi ve saldırılar daha karmaşık hale geldikçe savunma çözümleri de karmaşıklaştı. Ağ tabanlı saldırıların olduğu döneme hızlıca ilerleyelim ve dijital savaş alanları şekillenmeye başladı. Güvenlik duvarları, geniş şehir duvarlarının yerini aldı, yük dengeleyiciler tek bir noktanın boğulmamasını sağlamak için kaynakları yönlendiren generaller gibi hareket etti ve Saldırı Algılama ve Önleme sistemleri gözetleme kulelerindeki nöbetçilerin yerini aldı. Bu, tüm sistemlerin mükemmel olduğu anlamına gelmiyor; EDR çözümü olarak adlandırdığımız, küresel çapta tercih edilen iyiliksever bir rootkit’in, milyonlarca Windows cihazını çökertebilecek bir truva atı gibi davranacak bir boş işaretçi başvurusu içerebileceği korkusu her zaman vardır.
Felaket niteliğindeki ve hepsi kazara olan durumları bir kenara bırakırsak, geriye bir sonraki adımın ne olduğu sorusu kalıyor. Günümüzün en tehlikeli siber silahı olan Offensive AI devreye giriyor. 2023’te, Foster Nethercott bir teknik rapor yayınladı SANS Teknoloji Enstitüsü’nde tehdit aktörlerinin ChatGPT’yi asgari teknik kapasiteyle nasıl kötüye kullanarak geleneksel güvenlik kontrollerinden kaçabilen yeni kötü amaçlı yazılımlar yaratabileceğini ayrıntılarıyla anlatan bir makale. Çok sayıda başka makale de Morris II gibi gelişmiş solucanlar ve Black Mamba gibi polimorfik kötü amaçlı yazılımlar yaratmak için üretken AI’nın kullanımını inceledi.
Bu büyüyen tehditlere karşı görünüşte paradoksal çözüm, daha sofistike saldırgan AI’ya yönelik daha fazla geliştirme ve araştırmadır. Platon’un “İcatların anası zorunluluktur” sözü, yeni AI kaynaklı tehditlerin daha gelişmiş güvenlik kontrollerinin inovasyonunu yönlendirdiği günümüz siber güvenliğinin yerinde bir nitelendirmesidir. Daha sofistike saldırgan AI araçları ve teknikleri geliştirmek ahlaki açıdan takdire şayan olmaktan uzak olsa da, kaçınılmaz bir zorunluluk olarak ortaya çıkmaya devam ediyor. Bu tehditlere karşı etkili bir şekilde savunma yapmak için, onları anlamamız gerekir; bu da daha fazla geliştirilmelerini ve incelenmelerini gerektirir.
Bu yaklaşımın gerekçesi basit bir gerçeğe dayanmaktadır. Anlamadığınız bir tehdide karşı kendinizi savunamazsınız ve bu yeni tehditler üzerinde geliştirme ve araştırma yapmadan, onları anlamayı umamayız. Talihsiz gerçek şu ki, kötü aktörler halihazırda saldırgan AI’yı yenilik yapmak ve yeni tehditler yaymak için kullanıyorlar. Bunu çürütmeye çalışmak yanlış yönlendirilmiş ve safça olur. Bu nedenle, siber güvenliğin geleceği saldırgan AI’nın daha da geliştirilmesinde yatmaktadır.
Saldırgan Yapay Zeka hakkında daha fazla bilgi edinmek ve bunu penetrasyon testine uygulama konusunda uygulamalı deneyim kazanmak istiyorsanız, yaklaşan çalıştayıma katılmanızı rica ediyorum. SANS Ağ Güvenliği 2024: Sosyal Mühendislik ve Derin Sahte Geliştirme için Saldırgan Yapay Zeka 7 Eylül’de Las Vegas’ta. Bu atölye, 2025’in başında yayınlanacak olan yeni dersim SEC535: Saldırgan Yapay Zeka – Saldırı Araçları ve Teknikleri’ne harika bir giriş olacak. Etkinlik bir bütün olarak, yapay zeka alanında önde gelen birkaç uzmanla tanışmak ve yapay zekanın siber güvenliğin geleceğini nasıl şekillendirdiğini öğrenmek için mükemmel bir fırsat olacak. Etkinlik ayrıntılarına ve bonus aktivitelerin tam listesine buradan ulaşabilirsiniz.
Not: Bu makale, siber güvenlikte yaklaşık on yıllık deneyime sahip bir ABD Deniz Piyadeleri ve Afganistan gazisi olan Foster Nethercott tarafından uzmanca yazılmıştır. Foster, güvenlik danışmanlık şirketi Fortisec’in sahibidir ve şu anda SEC 535 Saldırı Yapay Zekası adlı yeni dersi geliştiren SANS Teknoloji Enstitüsü’nde yazardır.