Deepfake tehditi, bunları oluşturmak için kullanılan yapay zeka araçlarının yaygınlaşmasıyla birlikte artıyor. Dünya çapında deepfake’lerde %245’lik bir artış yaşandı 2023’ten 2024’e, doğrulama sağlayıcısı Sumsub’a göre kısmen yaklaşan seçim döngüleri tarafından teşvik edilen bir artış. Ayrıca kurumsal sektörü de etkiliyor; yakın zamanda yapılan bir Business.com anketi, Şirketlerin %10’u deepfake destekli dolandırıcılıkla karşı karşıya kaldıklonlanmış sesler gibi.
Bu trend, şaşırtıcı olmayan bir şekilde, deepfake’lere karşı savunma araçları ve bunları üretmek için kullanılan teknolojileri pazarlayan şirketler için bir kazanç oldu. Bu şirketlerden biri, İğne ucuÇarşamba günü Hercules Capital’den 100 milyon dolarlık, beş yıllık bir kredi aldığını duyurdu. CEO Vijay Balasubramaniyan, bu kredinin ürün geliştirme ve işe alım için ayrıldığını söyledi.
Balasubramaniyan, TechCrunch’a “Üretici AI’daki gelişmelerle birlikte, özellikle ses klonlama güçlü bir araç haline geldi” dedi. “Artık her çağrı merkezinin dolandırıcıların bir adım önünde kalmak için AI tespit teknolojilerinden yararlanan deepfake tespitine ihtiyacı var.”
Pindrop, bankacılık, finans ve ilgili sektörlerdeki işletmeleri hedefleyen deepfake ile mücadele eden ve çok faktörlü kimlik doğrulama ürünleri üretiyor. Şirket, araçlarının örneğin iletişim merkezi arayanlarını tanımlayabildiğini ve rakip çözümlerden daha yüksek doğrulukla tespit edebildiğini iddia ediyor.
Balasubramaniyan, “Pindrop, yapay zeka modellerini gerçek insan sesleri ile sentetik olarak üretilenler arasında ayrım yapacak şekilde eğitmek için hem sentetik hem de gerçek 20 milyondan fazla ifadeden oluşan bir veri kümesinden yararlanıyor,” dedi. “Ayrıca, deepfake’i oluşturmak için kullanılan TTS modellerini tanımlamaya yardımcı olmak için 330’dan fazla metinden sese (TTS) modelini eğittik.”
Önyargı, deepfake tespit modellerinde yaygın bir sorundur. Birçok ses modeli Batılı, Amerikan seslerini tanımaya eğilimlidirler ve farklı aksan ve lehçelerde kötü performans gösterirler; bu da bir dedektörün gerçek bir sesi deepfake olarak sınıflandırmasına yol açabilir.
Sentetik eğitim verilerinin (AI modelleri tarafından üretilen eğitim verileri) tartışılması gereken bir konudur. hafifletir veya şiddetlendirir önyargılar. Değeri ne olursa olsun, Balasubramaniyan ilkini düşünüyor ve Pindrop’un ses doğrulama ürünlerinin telaffuz veya dilin aksine seslerin “akustik ve spektro-zamansal özelliklerine” odaklandığını iddia ediyor.
Balasubramaniyan, “AI tabanlı ses tanıma sistemleri, ırksal çıkarımlara yol açabilecek ton, aksan, yerel dil ve lehçe farklılıklarına yönelik önyargılı sonuçlar gösterme eğilimindedir” dedi. “Bu önyargılar, çeşitli etnik, ırksal, cinsiyet veya diğer farklılıkların temsilinde eksik olabilecek sistemleri eğitmek için kullanılan verilerin homojenliğinden kaynaklanmaktadır, bu nedenle AI sistemlerinin eğitildiği veri çeşitliliğini sınırlamaktadır.”
Ürünlerinin etkinliğinden bağımsız olarak, Pindrop, eski bir Googler olan Balasubramaniyan’ın eski Barracuda Networks baş araştırma görevlisi Paul Judge ve Mustaque Ahamad ile şirketi kurduğu 2011’den bu yana önemli ilerlemeler kaydetti. Bugüne kadar, yaklaşık 250 kişiyi istihdam eden Atlanta merkezli firma, Vitruvian Partners, CapitalG, IVP ve Andreessen Horowitz gibi yatırımcılardan 234,77 milyon dolar risk sermayesi topladı.
Pindrop’un bu sefer neden öz sermaye yerine borçlanmayı tercih ettiği sorulduğunda Balasubramaniyan, Pindrop’un öz sermayesini sulandırmadan “büyüme sermayesini verimli bir şekilde artırmanın” “çekici bir seçenek” olduğunu söyledi. (Bu yaygın bir stratejidir.)
Balasubramaniyan, krediden elde edilen gelirin Pindrop’un teknolojisini sağlık, perakende, medya ve seyahat gibi yeni sektörlere taşımasına olanak sağlayacağını sözlerine ekledi.
Balasubramaniyan, “Üretici yapay zekanın gelişiyle birlikte, çözümlerimize yönelik dünya çapında büyük bir talep görüyoruz ve deepfake’ler nedeniyle önemli tehditler gören ülkelere genişlemeyi planlıyoruz” dedi. “Pindrop, şirketlerin kendilerini ve tüketicilerini artan dolandırıcılık ve deepfake tehditlerinden dolandırıcılık önleme, kimlik doğrulama ve canlılık çözümleriyle korumalarına yardımcı olmak için konumlandırıldı.”