Aylardır yapay zeka devleri, kötü niyetli hackerların modellerini kullanmasını sınırlamak için özel programlar ve sıkı güvenlik önlemleri geliştirdi. Ancak bu sınırlamalar, meşru ağ savunucularının ve saldırgan siber güvenlik araştırmacıların çalışmalarını zora sokuyor.
Haziran ayında, ABD hükümeti Anthropic’in çok tartışılan yapay zeka modelleri Mythos ve Fable üzerinde ihracat kontrolleri getirdi. Bu hareket, kullanıcıların kötü niyetli siber saldırılar gerçekleştirmesini engellemek için tasarlanan güvenlik önlemlerinin aşılabileceği yönündeki bir rapordan kaynaklanıyor.
Bu olay gerçekten bir jailbreak korkusuyla mı motive oldu bilinmez ama gerçek şu ki, Anthropic uzun süredir Mythos’u yalnızca özenle seçilmiş kullanıcılara verilmesi gereken bir apokaliptik siber makine olarak tanıtıyor. (Fable 5 ve Mythos 5 üzerindeki ihracat kontrolleri kaldırıldı. Fable 5, 1 Temmuz’da genel erişime açıldı; Mythos 5 ise ABD’deki onaylı kuruluşlara yeniden tanıtıldı.)
Böyle bir kapı bekçiliği yalnızca Mythos’a özgü değil. Hem Anthropic hem de OpenAI, siber güvenlik araştırmacılarına başvurabilecekleri programlar sunuyor; bu programlar onaylandığında daha az güvenlik kısıtlaması olan modellere erişim sağlıyor. OpenAI’nin Trusted Access for Cyber programı ve Anthropic’in Cyber Verification Programı bu kapsamda değerlendirilebilir.
Bu güvenlik önlemleri yaygın bir şekilde eleştiriliyor, özellikle de sistemlerdeki bilinmeyen zayıflıkları bulma görevi olan araştırmacılar tarafından.
Son zamanlarda bir siber güvenlik podcast’inde, tanınmış güvenlik araştırmacısı Mark Dowd, “Bu rastgele büyük şirketlerin güvenlikte neyin güvenli olup olmadığını belirlemek için keyfi kararlar alması benim için pek rahat değil,” dedi.
Dowd, yıllarca “sıfır gündem” bulgularını bulup bunları Batı hükümetlerine sattı. Bunlar, yazılım yapımcılarına bildirilmeden, güvenlik açıklarının hızlıca kapatılmamasını sağlamak için kullanıldı. Hükümetler, açık kalan zayıflıklara özel fiyatlar ödüyor, çünkü bu, istihbarat operasyonları için faydalı oluyor.
Dowd, bu durumun onu yanlı hale getirebileceğini kabul etti, ama yalnız olmadığını belirtti. Saldırgan siber güvenlik alanında çalışan birkaç kişi, AI araçlarını nasıl kullandıklarını ve bu güvenlik önlemleri ile nasıl başa çıktıklarını TechCrunch’a anlattı.
NCC Group’un baş bilim insanı Chris Anley, bir yapay zeka modeline bir hatayı istismar etmeyi denemesini istemenin, bunun gerçek bir güvenlik açığı olup olmadığını doğrulamak için kritik bir adım olduğunu söyledi. Ancak bir güvenlik önlemi modelin bu sorunu tamamen reddetmesine neden olursa, bu durum savunucuları zora sokuyor.
“İşte burada saldırgan ve savunma arasındaki güvenlik önlemleri devreye giriyor, çünkü ‘bu kodu düzelt’ şeklindeki bir istem, savunma için önemli bir mekanizma olduğu gibi, aynı zamanda kod tabanındaki kritik zayıflıkları bulmak için bir yol haritası da oluyor,” diye ekledi Anley. “Dolayısıyla aynı araç hem saldırgan bir araç hem de savunma aracı ve bunları ayırmak pek mümkün değil.”
“Bir çekiç gibidir,” diye devam etti. “Bir ev inşa edemezsiniz çekiç olmadan. Bu kesinlikle bir araçtır ama aynı zamanda bir silah olmaktan da vazgeçilemez.”
Anley ve kolegaları böyle bir engelle karşılaştıklarında zaman zaman hiçbir güvenlik önlemi olmayan açık kaynak yapay zeka modellerine yöneliyorlar.
CrowdFense’in teknoloji direktörü Paolo Stagno, Dowd’a katıldığını belirterek, yapay zeka şirketlerinin “müşterileri çocuklar gibi davranarak, denetlenen programları ve güvenlik önlemlerini uyguladığını” ifade etti.
Stagno, kendisi ve ekip arkadaşlarının son teknoloji modelleri kullandıklarını ama yalnızca tersine mühendislik için bunu yaptıklarını söyledi. Güvenlik açıklarını bulmak veya istismar geliştirmek için yapay zekayı kullanmaktan kaçınıyorlar, çünkü bu, duyarlı güvenlik açığı verilerinin paylaşılma riski taşıyor. Bunun için, açık kaynak modellerini yerel olarak koşuşturduklarını, çünkü modelin dışına veri paylaşmaya ihtiyaç duymadıklarını vurguladı.
Sıfır gündem bulguları bulan ve istismar geliştiren güvenlik araştırmacısı Giuseppe Cali, güvenlik önlemlerinin çalışmalarını engellemediğini belirtti. Bunun nedeni, AI’yı saldırgan işlerde değil, analiz ettiği kodu anlamak ve destekleyici araçlar geliştirmek için kullandığını aktarması. Bu süreçte, yapay zeka araçları süreci hızlandırıyor ve zayıflıkları keşfetmeye odaklanmasını sağlıyor.
“Gerçek hata keşfini ve silahlanmayı kendim üstlenmek istiyorum ve eğer yarın tüm güvenlik önlemleri kaldırılırsa bile bu benim için değişmeyecek,” dedi Cali. “Hatalarımı sahiplenmek istiyorum ve bu oyunu benim için oynatmayı sevmiyorum.”
Bir akıllı telefon parça üreticisinden, isminin açıklanmasını istemeyen bir araştırmacı, işvereninin Anthropic’in CVP programına katılmadığını belirterek, bu nedenle araçların güvenlik açıklarını bulmak için pek faydalı olmadığını ifade etti. “Eğer bir güvenlik ile ilgili bir şey yaptığımızı hissederse, durup kullanılmaz hâle geliyor,” dedi.
Cybersecurity firması RemoteThreat’in CEO’su ve Offensive AI Con’un kurucusu Chris Thompson, son teknoloji yapay zeka modellerini kullanma deneyiminde güvenlik önlemlerinin tutarsız olduğunu belirtti. Bu durum, Anthropic ve OpenAI’nin denetlenen programları çerçevesinde bile geçerli.
“Pratikte, model ile çokça müzakere etmek zorunda kalıyorsunuz. Bunun yerine temelde güvenlik programınız üzerinde çalışmalısınız,” diye ekledi Thompson. “Bir güvenliği analiz etmekle meşgulken, neden tutarsız sonuçlar aldığınızı veya neden modellerin çıktıları aşırı dezenfekte ettiğini bulmaya çalışıyorsunuz.”
Sonuç olarak, araştırmacılar Çin yapımı açık kaynak modelleri gibi GLM’ye yönelme eğiliminde, çünkü bunlar kullanılabilir kısıtlama olmadan yerel olarak çalıştırılabiliyor.
“Sorumlu araştırmacılar, ABD yönetimine ait sistemlerden yabancı sistemlere itiliyor,” diyen Thompson, “Bu güvenlik önlemlerinin, iyi olanın önüne geçtiğini düşünüyorum,” ifadesinde bulundu.
Thompson, kısıtlamaların daha da sıkılaştırılmasındansa, yapay zeka laboratuarlarının programlarını açmaları, sorumlu erişim sağlamaları ve araçlarını kötüye kullananları hesap verebilir hale getirmeleri çağrısında bulundu. Aksi takdirde savunucuların yapay zeka yarışı kaybedeceğini söyledi.
“Büyük bir fırtına geliyor. Daha önce hiç olmadığı kadar hızla ve ölçekle gerçekleşecek büyük bir saldırı dalgası var,” dedi Thompson. “Ama bu durumu düzeltmek için çalışan aynı güvenlik danışmanlık firmaları ve meşru araştırmacılar şu an itibariyle engelleniyor.”
Makale içindeki bağlantılara tıklayarak alımlarınızı gerçekleştirirseniz küçük bir komisyon kazanabiliriz. Bu durum, editoryal bağımsızlığımızı etkilemez.
