Bob Starr, duygu kodlama temalı web sitesinden oldukça memnun kalmıştı. “Boomberg”, ABD vergi paralarının teknoloji şirketlerine ne kadar gittiğini gösteriyordu ve Starr, bunu hemen çevrimiçi olarak yayına aldı. Site yayına girdikten aylar sonra bir sorun olduğunu fark etti: gizli bir SQL enjeksiyon riski. Bu, sitenin bir saldırgan tarafından verilmemiş verilere erişim sağlaması veya bunları değiştirmesi için açık kalabileceği anlamına geliyordu.
“Bu benim dikkatsizliğimden kaynaklanan belirgin bir gözden kaçırmaydı. Bu yeni teknolojiyi öğrenme sürecimde tam bir kör noktaydı ve eminim aynı hatayı yapan başkaları da vardır,” dedi Starr, teknoloji sektöründe bir proje yöneticisi.
“Bu yeni teknolojiyi öğrenme sürecimde tam bir kör noktaydı.”
Starr sorunu çözdü, ama yalnız değildi. Sosyal medyada, güvenlik açıklarıyla dolu duygu kodlamalı uygulamalara dair korkunç hikayeler dolaşıyordu. PocketOS’un kurucusu Jer Crane, X üzerinde bir AI kodlama ajanının, şirketinin üretim veritabanını silmesinden bahsetti. Serbest girişimci ve eski geliştirici Joe Procopio, duygu kodlamalı bir web uygulaması oluşturarak, yaptığı diğer uygulamaların özel demolarını gösterdi. Ancak korsanlar geldiği için uygulamayı kaldırmak zorunda kaldı. “Artık demoları eskisi gibi, yerel makinemden Zoom ile yapıyorum,” diye yazdı. “Bu çok 2023.”
David Pierce’in The Verge‘de belirttiği gibi, “kişisel yazılım çağımız” başladı; bu çağda herkes AI kullanarak tam olarak istediklerini yapabilen özel uygulamalar oluşturabiliyor. Ancak bununla birlikte yeni güvenlik sorunları da ortaya çıkıyor. Uygulamalar kolaylıkla oluşturulabiliyor, fakat güvenli hale getirmek zor. Özellikle AI’nın da bu uygulamalara saldırmak için kullanılabildiği bir dünyada.
“Duygu kodlama, amatörlerin yazılım oluşturabilmesi açısından kötü bir şey değil. Bu, aslında iyi bir kısım,” diyor AI destekli siber güvenlik firması SentinelOne’da tanınmış AI araştırma bilimcisi Gabriel Bernadett-Shapiro.
Tehlike, diyor, bir kişisel uygulamanın iş yazılımı alanına kayması ve kimsenin o geçişin farkında olmadan paylaşılan, barındırılan verileri depolamaya başlamasında yatıyor. Ayrıca, diyerek devam ediyor, duygu kodlaması migren veya yemek ya da paket teslimatlarını izlemek için yerel uygulamalardan, müşteri kayıtları, tıbbi veriler, finansal kayıtlar veya iç belgelerle başa çıkabilen uygulamalara geçtiğinde hesaplamalar değişiyor.
“Bunlar farklı bir standarda tabi tutulmalı. Hatta bir kişi tarafından bir öğleden sonra içinde yapılsa bile. Yazılımın kendisi basit olsa bile, diğer insanların kişisel verileriyle temasa geçtiğinde, işte o zaman standartların değiştiğini düşünüyorum.”
Jack Cable, AI yerli yazılım geliştirmek için oluşturulan güvenlik platformu Corridor’ün CEO’su ve kurucu ortağı, buna katılıyor.
“Duygu kodlama, amatörlerin yazılım oluşturabilmesi açısından kötü bir şey değil. Bu, aslında iyi bir kısım.”
“Duygu kodlama, düşük riskli şeyler için harika,” diyor Cable, “örneğin bir prototip veya çok hassas olmayan bir spor özellikle. Ancak finansal kayıtlar daha fazla inceleme gerektiriyor,” diye ekliyor, aynı zamanda kamu internetinde yer alan her şey için de. “Orada kendi veya diğer kişilerin verilerini açığa mı çıkarıyorsunuz?” diye sordu. “Tehdit modelini düşünün ve eğer yaptığınız bir şeyin güvenli olup olmadığından emin değilseniz, daha dikkatli olmak her zaman iyidir.”
Max Segall, kripto cüzdan firması Privy’nin COO’su, duygu kodlama ile EzRun uygulamasını geliştirdi; bu uygulama, o ve çocuğu birlikte koştuğunda ona her seferinde 10 dolar Ethereum ödül vermek üzere eğlenceli bir yol sunuyordu. Neyse ki, bir meslektaşı, lansmandan önce kullanıcı hesaplarını değiştirerek erişim sağlayacak kritik bir açığı keşfetti.
Ocak ayının sonlarında daha endişe verici bir durum yaşandı; bir geliştirici olan Matt Schlicht, tamamen AI ajanları için inşa edilmiş viral bir sosyal ağ olan Moltbook’u başlattı. Bu uygulama için tek bir kod satırı bile yazmadığını belirtti. Araştırmacılar, güvenlik firması Wiz’in yaptığı bir araştırmada, uygulamanın üretim veritabanının tamamen açık olduğunu ve on binlerce e-posta adresiyle özel mesajların ifşa olduğunu belirtti. Moltbook, kendisine bildirildikten kısa bir süre sonra hatayı düzeltti ama bu yalnızca bir defalık bir durum değildi. Wired, siber güvenlik firması Red Access’ın yaklaşık 5,000 halka açık uygulama tespit ettiğini bildirdi; bu uygulamalar popüler duygu kodlama araçlarıyla inşa edilmişti ve hiç kimlik doğrulama olmadan çalışıyordu, ve bunların yaklaşık 2,000’i tıbbi ve finansal bilgiler, strateji belgeleri ve hatta sohbet robotu konuşmalarının kayıtları gibi hassas verilerin sızışını sağlıyordu.
Adil olmak gerekirse, profesyonel olarak yapılmış önceki AI yazılımları da son derece güvensiz. Ancak duygu kodlama, üretilen uygulama sayısını katlanarak artırırken, güvenlik risklerinin de muhtemelen fırlayacağı anlamına geliyor. Bu ayrıca aşırı güven riskini de ekliyor. Bir AI aracı size kodun güvenli olduğunu söylediğinde, buna inanmak kolaydır.
“Eğer yaptığınız bir şeyin güvenli olup olmadığından emin değilseniz, daha dikkatli olmak her zaman iyidir.”
Ve normal bir duygu kodlama oturumunda, kendi kendine kontrol yapılmasını engelleyen hiçbir şey yok, bunun için bir şey yüklemediyseniz, çoğu sıradan kodlayıcıda bu da yok. Yapım süreci devam ederken, mevcut güvenlik araçlarının kullanılması gerekir. Claude Code’un, güvenlik açıklarını tarayan /security-review komutu var; ancak bunun yapılması istenmektedir. Automatik bir versiyonu var ama, yalnızca güvenlik denetimleri için yapılandırırsanız önizleme talep edilenler üzerinde çalışmak için gerekmekte ve çoğu sıradan geliştirici bununla ilgilenmiyor.
OpenAI’nin kendi kodlama ajanı Codex, taahhütler üzerinde tarama yapan ve kendi önerilen tamiratları yeniden tarayan yerleşik bir güvenlik ajanına sahiptir; fakat bu, gerçek versiyon kontrol iş akışı olan geliştiricilere yöneliktir, bir uygulamayı ortaya çıkaran sıradan biri için değildir. Diğerleri için, alınması gereken ders basit: İster inşa ederken, ister sonrasında, güvenliği önceden düşünmek zorundasınız, özellikle de aracı önemsiz veriye erişim sağladığında.
“Güvenliğin büyük bir kısmı bağlama bağlıdır,” diyor Cable; dolayısıyla bir kodlama ajanın incelemesini yapmak için bir aracı çalıştırmanın faydasız olmadığını, ancak bunun, tehlikeler modelinizi anlamadıkça veya ona doğru yönerge vermediyseniz, güvenlik teşhisinizde yanlış bir hissiyat oluşmasına neden olabileceğini vurguluyor.
Bernadett-Shapiro, en büyük endişesinin bozuk AI tarafından üretilen kod değil, kimlik doğrulama eksikliği olduğunu belirtmektedir; bu, geliştiricilerin, çalıştığı bir uygulamayı yerel ortamda bulundurarak buluta geçirmeleri sırasında düşünmeyeceği bir şeydir. Bu tür bir geçiş, hassas verilerin açığa çıkmasına neden olur. Araştırmacıların sıkça karşılaştığı bu durum, yerel olarak mükemmel çalışan uygulamaların buluta taşınmasının, gizlilik dolu bir kutunun açık bırakılması gibi olduğudur.
AI, talep edildiğinde hataları bulmada iyidir. Mythos gibi modellerde iyileşmeler yaşanmakta ve bu, duygu kodlamacıların inşa ettiği uygulamaları güçlendirmek için de kullanılabilmektedir. Bernadett-Shapiro, GPT-5.5-Cyber veya diğer uygulamaların temel modellerinin, bir yetenekli geliştiricinin gözden kaçırabileceği sorunları değerlendirebileceğini belirtmektedir. Elbette, güvenlik ile ilgili yaptıkları değişimlerin farkında olmama veya uyarıları görmezden gelmeyi kabul edilmiş risk olarak değerlendirme durumu da vardır.
“Güvenliğin büyük bir kısmı bağlama bağlıdır.”
Bazı yapılandırmalar zaten oluşmaya başladı. OWASP, pek çok web güvenlik standardının arkasındaki kar amacı gütmeyen kuruluş, organizasyonlar için AI güvenlik doğrulama standartı yayımladı. Trail of Bits gibi firmalar, kodlama ajanın, hatalı varsayılan ayarları veya önceden belirlenmiş şifreleri etiketlemesi gibi belirli güvenlik görevlerine işaret eden “beceriler” olarak bilinen ek talimat paketleri yayınlamaya başladı. Beceriler, belirli bir şekilde tetiklenmelidir, bu nedenle gelişim akışına doğal bir şekilde girmemektedir; böylece, sürekli olarak güncel ve senkronize kalmaları zorlaşıyor, diyor Cable.
Bunun ötesinde, beceriler her iki yönde de işlem görebilir, çünkü kötü niyetli beceriler de bulunmaktadır.
Şubat ayında, 1Password’tan Jason Meller, popüler OpenClaw beceri kaydında en çok indirilen beceriyi inceledi ve bağlantıların kötü niyetli olduğu sonucuna vardı. Henüz vahşi batıda yaşıyoruz ve bir becerinin uygulamanızı güçlendireceğini yoksa bir saldırgana kimlik bilgilerinizi vereceğini ayırt etmek zor olabilir.
Güvensiz duygu kodlamalı uygulama potansiyeli yalnızca hobistlerle sınırlı değildir. Cable, artık büyük şirketlerin mühendislerinin ve hatta satış ve pazarlama ekiplerinin, daha önce olduğundan daha fazla kod göndermekte olduğunu belirtmektedir. Güvenlik ekiplerinin, ajanın nasıl kullanıldığını görmek için temel bir görünürlüğe sahip olması gerektiğini ve ya beceriler ya da Corridor gibi, kod yazılmadan önce hataları durdurmayı amaçlayan ürünler ile sınırların uygulanması gerektiğini belirtiyor.
Bireyler için, Cable’ın yönergeleri çok daha basittir: Yerel bilgisayarınızda çalışan bir modelin, kamuya açık bir modelden çok daha az riskli olduğunu unutmayın, özellikle de hassas veriler içeriyorsa.
“Literally overnight, most companies’ software production process has completely changed,” diyor Cable. Kodlama ajanlarını endişelendirmenin çok da mantıklı olmadığını, doğru korumalar altında çalıştıkları sürece. Modellerin kendileri giderek, önceden bazı zayıflıkları ortadan kaldıran bir güvenli hafıza yığınında inşa ediliyor. “Burada umut verici nedenler vardır,” diye ekliyor.
Hükümet işler uzmanı Jeff Rothblum, veri girişi ile güvenlik göz önünde bulundurularak yüzleşmek için bir uygulama duygu kodladı. Uygulamanın hangi bilgileri sakladığını, bunun hassas olup olmadığını ve dışarı sızarsa başıma neler gelebileceğini düşündü. Bu, o kadar nadir bir yaklaşım ki dikkat çekici ve zeminimiz hızla kayıyor.
Lilt’te hükümet işleri ve strateji başkanı olarak çalışırken, çeşitli hükümet komitelerine fikrinizi iletmek için giriş formları sunması gerekiyordu. Hiçbir iki form aynı değildi, bu nedenle lobiciler altı haftalık bir süre içinde onlarca veya yüzlerce benzersiz form sunabilir. Sekiz haftalık 75 saatlik işten sonra ve bir işten çıkarmanın ardından, bunu bir daha yapmak zorunda kalırsa diye bir araç oluşturdu. Bu, bağlantıları ve son tarihleri tek bir kontrol paneline çekip, her formu önceden doldurmak için bir LLM kullanıyor, böylece kullanıcıların sadece gözden geçirip düzenlemesi (ve bir hesap numarası yapıştırması) gerekiyor.
Duygu kodlayın, ancak uygulamanın sakladığı verileri ve erişim sağladığı şeyleri dikkatlice düşünün, hangi sorunlara yol açabileceğini.
Riskin farkında olan Rothblum, kendi kodunu yazmadığı için çok dikkatliydi. “Son kez kod yazdığımda, muhtemelen 2006’da inşaat mühendisliği olarak sıvı akışını analiz etmek için Fortran yazıyordum,” dedi The Verge ile yaptığı bir görüşmede. En büyük riskin, şirketlerin stratejilerini veya hassas lobicilik mantığını istemeden sızdırması olduğunu vurguladı; bu da başvurular kamuya açık olsa bile gizli kalmaktadır. Bu riski, düzenli güvenlik incelemeleri yaparak, kullanıcı verilerini kendi sunucuları yerine yerel olarak saklayarak ve daha katı tutma önlemleri geliştirerek azaltıyor.
Uygulamayı tarayıcıyı temizleyecek şekilde kodladı ve Claude’a veri gönderen sayfanın bağlantısını verdi, saklama politikasını gösterdi. Kullanıcıların AI tarafından saklanmayan (hatta kısa bir süreliğine) bir versiyonunu geliştirmeyi düşündüğünü ve ayrıca kullanıcıların her şeyi kendi LLM’leri aracılığıyla yönlendirmesine olanak tanıyacak ayrı bir versiyon üzerinde çalıştığını bilgilendirdi.
Rothblum daha kapsamlı bir lobicilik istihbarat aracı inşa etmeyi düşünse de, daha hassas verilerle çalışmaya başlaması durumunda, gerçek bir güvenlik mühendisinin kodunu gözden geçirmesi için dört veya beş basamak ödemeyi planlıyor. “Açık kaynak konularında mutluyum ve geçici şeylerle aram iyi; ama diğer her şey beni korkutuyor,” diyor.
İdeal olan, bir insan uzmanının kodu gözden geçirmesidir; ancak Cable, bunun giderek bir darboğaz haline geldiğini söylüyor. Açık soru, çoğu kodun hiç kimse tarafından okunmadan nasıl teslim olacağı ve bu dünyanın nasıl güvence altına alınacağıdır.
Şimdilik, diğerleri için cevap daha küçük ve ulaşılabilir: Hayalini kurduğunuz uygulamayı duygu kodlayın, ancak uygulamanın sakladığı verilerin ve erişim sağladığı şeylerin neler olduğunu ve neyin yanlış gidebileceğini düşünün. Güvenliği göz önünde bulundurarak inşa etmesini isteyin ve her değişiklikten sonra kod incelemeleri yapın, AI’nin kendisi yazdığı yamalar dahil. Kendi cihazınızdan buluta taşırken veya hassas verilere ya da hesaplara erişim vermeden önce çok dikkatli olun. Eğlenceli bir projenin korkunç bir hikaye olmasından farksız olan şey, hangi soruların sorulması gerektiğini bilmektir.
