YORUM
2024’te erken büyüme girişimleri sermaye bulmakta zorlandı, ancak risk sermayedarları ortaya çıkan verilere ve yapay zeka güvenliğine yatırım yapmaktan kendini alamadı. Hareket halindeki veri ve uygulama veri akışlarını ele alan çözümler yoğun bir odak noktasıydı. Ve çılgınca bir mücadele vardı Deepfake ve dezenformasyon sorunlarını çözün.
Deepfake farkındalığının yılıydı. Küresel hükümetler seçim zamanı boyunca yüksek alarma geçmişti ve Wiz bile bir durumdan etkilendi. başarısız deepfake saldırısı. Ancak en rahatsız edici haber sentetik iş arkadaşlarının konferans görüşmesiBunlar arasında Hong Konglu bir finans analistini 25 milyon dolar havale etmesi için kandıran deepfake bir mali işler müdürü (CFO) da bulunuyor.
Bugünlerde algılanamayan kimliğe bürünme saldırılarının gerçekleştirilmesi zor değil. GitHub’da Deep-Live-Cam ve DeepFaceLive gibi gerçek zamanlı yüz değiştirme araçları hızla çoğaldı. Descript ve ElevenLabs gibi sentetik ses araçları da kolaylıkla temin edilebilir.
Geçmiş yıllarda insan sesi ve videosunun izlenmesi, içeriden gelen tehditlerin ve fiziksel güvenliğin kapsamına girmişti. Artık SecOps, Validia ve RealityDefender gibi startup’ları kullanarak konferans görüşmelerini izlemek için teknolojiyi kullanacak. Bu kimlik güvencesi çözümleri, katılımcıları canlılık göstergeleri arayan modellerden geçirir ve güven puanları sağlar.
Devletin tehdit istihbaratı, daha geniş bilgi savaşı operasyonlarının bir parçası olarak devlet destekli dezenformasyon ve anlatı saldırılarını kapsar. Kurumsal alanda marka itibarını ve dezenformasyonu izlemek geleneksel olarak hukuk ve halkla ilişkiler departmanlarının sorumluluğundadır. Ancak 2024’te bir değişimin işaretleri vardı.
Yeni dezenformasyon ve anlatı saldırıları yalnızca markaları yok etmekle kalmıyor, aynı zamanda yöneticileri Menkul Kıymetler ve Borsa Komisyonu (SEC) ihlalleri için suçlamaya çalışıyor ve yakın zamanda gerçekleşen United Healthcare suikastının ardından şiddeti kışkırtıyor. Bunları görmezden gelmek idari hapis cezası veya daha kötüsü anlamına gelebilir.
Startup topluluğunda yönetim kurullarının bu tehditlere ilişkin tek bir birleşik görüş isteyeceğine dair bir inanç var. Siber güvenlikten kaçış, içeriden gelen tehditler, kimliğe bürünme ve daha geniş bilgi savaşını kapsayan tehdit istihbaratı. Gelecekte, baş bilgi güvenliği sorumlusunun (CISO’nun) tehdit istihbaratı ekipleri, kapsamlarının Blackbird.AI, Alethea veya Logically gibi girişimlerle genişletildiğini görebilir.
Veri güvenliği, 2024’ün erken büyüme dönemindeki startup dünyasında dikkat çeken bir diğer odak noktasıydı.
Model Veri Sızıntısı On Yılın Sorunu
Modeller, İngilizce konuşma yoluyla sorgulanan ve İnternet boyutunda yapılandırılmamış metin, ses ve video parçalarından öğrenilenleri depolayan veritabanları olarak düşünülebilir. Sinir ağı formatları, yoğunluk, çok büyük miktarda veri depolama ve cihazlara bile sığabilecek modellerdeki zeka açısından yeterli krediyi alamıyor.
Kullanıcı arayüzlerini tıklatan ve araçları çalıştıran aracılar üreten ajansal yapay zekanın yakında kullanıma sunulması, yalnızca cihaz üzeri model dağıtımını genişletecektir. Agentic AI, cihaz verilerini öğrenen uyarlanabilir modelleri bile dağıtabilir.
Evlat edinmek çok güvensiz geliyor. Peki kaç kuruluş yapay zekanın üretkenlik kazanımlarından vazgeçecek?
Karmaşıklığa ek olarak, AI silahlanma yarışı her hafta çığır açan temel modeller üretiyor. Bu, esnek kod mimarilerine (uygulama satıcılarının bir kuruluşun gözünün önünde modelleri değiştirmesine olanak tanıyan mimariler) yönelen yapay zeka yerel uygulamaları tasarlamayı teşvik eder.
Şirketler, bilgi yoğun sinir ağlarına çöken verileri nasıl koruyacak? Bu bir veri sızıntısı kabusu.
Hareket Halindeki Verilerle Başa Çıkma Zamanı
2024 trendi, start-up dünyasının hareket halindeki veriler için siber güvenliği yeniden inşa etme zamanının geldiğine olan inancıydı. Veri akışları iki cephede ele alınır. Birincisi, geleneksel kullanıcı ve cihaz kontrollerini yeniden icat etmek, ikincisi ise uygulama güvenliğini baş teknoloji sorumlusu (CTO) altında sağlamak.
Veri kaybını önleme (DLP), uyumluluk amacıyla mutlaka satın alınması gereken bir kategori olmuştur. Kullanıcıların ve cihazların çıkış kanallarının yanı sıra veriler ile yapay zeka uygulamaları da dahil olmak üzere yüklü uygulamalar arasına da kontroller yerleştirir. 2024’te yatırımcılar DLP’yi yeniden keşfetmek için büyük bir fırsat olarak görüyor.
RSA ve BlackHat’ın 2024 startup yarışmalarında DLP startup’ları Harmonic ve LeakSignal finalist oldu. MIND ayrıca geçen yıl 11 milyon dolarlık bir tohum yatırımı aldı.
DLP geleneksel olarak kullanıcılara, cihazlara ve bunları çevreleyen ağ trafiğine odaklanmıştır; ancak startuplardan biri, bugün sayıca insanlardan daha fazla olan ve genellikle Kubernetes içinde dağıtılan mikro hizmetler veya uygulamalar olan insan olmayan kimlikleri incelemektedir. Bu varlıkların günlük dosyalarındaki sırları sızdırması giderek artan bir endişe haline geldi ve LeakSignal, bu veri kaybı kanalını kontrol etmek için siber ağ konseptlerini kullanıyor.
Bu, CISO’ların ikinci veri savaş alanına, CTO’lar altında kod ve yapay zeka gelişimini yönetebilecek bir veri güvenliği yaklaşımına yol açıyor.
Veri Güvenliği Uygulama Güvenliğiyle Kesişiyor
Her şirket yazılım geliştiriyor ve çoğu, özel modelleri eğitmek için özel verilerden yararlanıyor. Bu uygulama dünyasında CISO’ların bir kontrol düzlemine ihtiyacı var.
Antimatter ve Knostic, 2024 RSA ve BlackHat startup yarışmalarında finalist olarak yer aldı. Bir kuruluş tarafından tamamen benimsendiğinde siber güvenlik ekiplerinin mühendislerin modellere sunduğu verileri yönetmesine olanak tanıyan gizlilik kasası API’leri sunarlar.
Tamamen homomorfik şifreleme (FHE) üzerinde çalışan start-up’lar her yıl yarışmalarda yer alıyor ve bu Kutsal Kase AI gizliliğini öne çıkarıyor. Bu, orta düzeyde ancak yine de yapay zeka tarafından kullanılabilen bir şifreleme durumu üreten bir teknolojidir. FHE’nin şifreli metni, varlık ilişkilerini koruduğu için kullanılabilir durumda kalır ve modeller, sırları görmeden içgörüler sunmak için hem eğitim hem de çıkarım süresi sırasında bunu kullanabilir.
Ne yazık ki FHE, hesaplama açısından çok pahalı ve geniş kullanım için şişirilmiş. Kısmi kelime aramanın olmaması bir diğer önemli sınırlamadır. Bu nedenle, FHE’yi daha geniş bir şifreleme ve token değişimi karışımı içinde tek bir yaklaşım olarak sunan bir gizlilik trendi görüyoruz.
Startup Skyflow, daha hafif şifreleme ve tokenizasyon biçimlerinin yanı sıra, mantıklı olduğunda FHE’yi kullanarak polimorfik teknolojiyi kullanır. Bu, kısmi aramaların yapılmasına, kimliklerin son dört hanesinin incelenmesine ve cihazlarda performansa olanak sağlar. Bu, Apple’ın cihazlar ve bulut genelindeki uçtan uca şifrelemesine benzer, karma bir yaklaşımdır.
Bunların benzeri görülmemiş bir değişim zamanları olduğunu söylemek abartı değil. Burada startup kültürünün yenilikçi zihniyetine ve dikkatine dikkat etmek gerekiyor. Herkesin dünyayı anlamak ve onun tehlikelerine karşı korunmak için yararlanabileceği bir topluluk oluşturur.
