Yapay zeka şirketler için bir ikilem yaratıyor: Henüz uygulamaya koymayın; üretkenlik kazanımlarını ve diğer potansiyel faydaları kaçırabilirsiniz; ancak bunu yanlış yaparsanız işletmenizi ve müşterilerinizi hafifletilemez risklere maruz bırakabilirsiniz. Jailbreak ve hızlı enjeksiyon gibi tehditlerin göz ardı edilemeyeceği varsayımıyla yeni bir “AI için güvenlik” startup dalgasının devreye girdiği yer burasıdır.
İsrailli startup Noma ve ABD merkezli rakipler gibi Gizli Katman ve İngiliz üniversitesinin yan ürünü olan Koruma Yapay Zekası Mindgard bunlardan biridir. CEO’su ve CTO’su Profesör Peter Garraghan (yukarıdaki resimde sağda), “Yapay zeka hala bir yazılımdır, dolayısıyla muhtemelen duymuş olduğunuz tüm siber riskler yapay zeka için de geçerlidir” dedi. Ancak “sinir ağları ve sistemlerinin şeffaf olmayan doğasına ve doğası gereği rastgele davranışlarına bakarsanız”, bunun da yeni bir yaklaşımı haklı çıkardığını ekledi.
Mindgard’ın durumunda, söz konusu yaklaşım, yalnızca çalışma zamanı sırasında tespit edilebilecek güvenlik açıklarını hedefleyen Yapay Zeka için Dinamik Uygulama Güvenliği Testidir (DAST-AI). Bu, Mindgard’ın tehdit kitaplığına dayalı saldırıları simüle etmenin bir yolu olan sürekli ve otomatik kırmızı ekip oluşturmayı içerir. Örneğin görüntü sınıflandırıcıların sağlamlığını test edebilir düşman girdilerine karşı.
Bu açıdan ve ötesinde, Mindgard’ın teknolojisi Garraghan’ın yapay zeka güvenliğine odaklanan bir profesör ve araştırmacı olarak geçmişine borçludur. Alan hızla gelişiyor; TechCrunch’a girdiğinde ChatGPT mevcut değildi, ancak NLP ve görüntü modellerinin yeni tehditlerle karşı karşıya kalabileceğini hissetti.
O zamandan bu yana geleceğe dair görünen şey gerçeklik haline geldi hızla büyüyen bir sektörde, ancak Yüksek Lisans’lar ve tehditler değişmeye devam ediyor. Garraghan, Lancaster Üniversitesi ile devam eden bağlarının şirketin ayak uydurmasına yardımcı olabileceğini düşünüyor: Mindgard, önümüzdeki birkaç yıl boyunca 18 ek doktora araştırmacısının çalışmalarının fikri mülkiyet haklarını otomatik olarak sahiplenecek. “Dünyada böyle bir anlaşma yapan hiçbir şirket yok.”
Araştırmayla bağları olsa da Mindgard halihazırda ticari bir ürün ve daha doğrusu, kurucu ortak Steve Street’in COO ve CRO olarak görev yaptığı bir SaaS platformu. (Araştırma tarafında yer alan ilk kurucu ortaklardan Neeraj Suri artık şirkette değil.)
Garraghan, geleneksel kırmızı takım çalışanları ve kalem testçileri gibi şirketlerin de Mindgard’ın doğal bir müşterisi olduğunu, ancak şirketin aynı zamanda müşterilerine AI risk önleme yaptıklarını göstermeleri gereken AI startup’larıyla da çalıştığını söyledi.
Bu potansiyel müşterilerin çoğu ABD merkezli olduğu için şirket, tavan tablosuna biraz Amerikan havası ekledi. Bir yükselttikten sonra 3 milyon sterlinlik tohum turu 2023’te Mindgard, Atlantic Bridge, WillowTree Investments ve mevcut yatırımcılar IQ Capital ve Lakestar’ın katılımıyla Boston merkezli .406 Ventures liderliğindeki 8 milyon dolarlık yeni bir turu duyuruyor.
Fon, “ekip oluşturma, ürün geliştirme, Ar-Ge ve bir startup’tan bekleyebileceğiniz her şeye” yardımcı olacak, aynı zamanda ABD’ye de yayılacak. Yakın zamanda atanan pazarlama başkan yardımcısı, eski Next DLP CMO Fergal Glynn’in merkezi şu anda ABD’de bulunuyor. Boston. Ancak şirket aynı zamanda Ar-Ge ve mühendisliği de Londra’da tutmayı planlıyor.
15 kişilik çalışan sayısıyla Mindgard’ın ekibi nispeten küçük ve gelecek yılın sonuna kadar 20 ila 25 kişiye ulaşmayı planlıyor ve öyle kalacak. Bunun nedeni yapay zeka güvenliğinin “henüz en parlak döneminde bile olmaması.” Ancak yapay zeka her yere yayılmaya başladığında ve güvenlik tehditleri de bunu takip ettiğinde Mindgard hazır olacak. Garraghan şöyle diyor: “Bu şirketi dünya için pozitif iyilik yapmak amacıyla kurduk ve buradaki pozitif fayda, insanların yapay zekaya güvenebilmesi ve yapay zekayı güvenli ve emniyetli bir şekilde kullanabilmesidir.”
