Bir taş atarsanız muhtemelen bir deepfake’e çarpacaksınız. Üretken yapay zekanın metalaştırılması, çevrimiçi sahte içerikte mutlak bir patlamaya yol açtı: Kimlik doğrulama platformu Sumsub’a göre, 2023’ten 2024’e kadar dünya çapında deepfake’lerde 4 kat artış oldu. Sumsub’a göre, 2024’te deepfake’ler tüm dolandırıcılıkların %7’sini oluşturuyordu. Kimliğe bürünme ve hesap ele geçirmelerden karmaşık sosyal mühendislik kampanyalarına kadar uzanan bir yelpazede.
Meta, deepfake’lere karşı mücadeleye anlamlı bir katkı sağlamayı umarak, yapay zeka tarafından oluşturulan video kliplere algılanamayan filigranlar uygulayan bir araç yayınlıyor. Perşembe günü duyurulan Meta Video Seal adlı araç, açık kaynak olarak mevcut ve mevcut yazılıma entegre edilecek şekilde tasarlandı. Araç, Meta’nın diğer filigranlama araçlarına, Filigran Her Şeye (bugün izin verilen bir lisans altında yeniden yayınlandı) ve Audio Seal’e katılıyor.
Meta’daki yapay zeka araştırma bilimcisi Pierre Fernandez, bir röportajda TechCrunch’a şunları söyledi: “Özellikle yapay zeka tarafından oluşturulan videoları tespit etmek ve orijinalliği korumak için daha etkili bir video filigranlama çözümü sağlamak üzere Video Seal’i geliştirdik.”
Video Seal türünün ilk teknolojisi değil. DeepMind’ın SynthID’si videolara filigran koyabilir ve Microsoft’un kendi video filigranlama metodolojileri vardır.
Ancak Fernandez, mevcut yaklaşımların çoğunun yetersiz kaldığını ileri sürüyor.
“Diğer filigranlama araçları mevcut olsa da, sosyal platformlar aracılığıyla içerik paylaşırken çok yaygın olan video sıkıştırma konusunda yeterli sağlamlığı sunmuyorlar; geniş ölçekte çalışacak kadar verimli değildi; açık veya tekrarlanabilir değildi; veya videolar için ideal olmayan görüntü filigranından türetilmiştir” dedi Fernandez.
Video Seal, filigranın yanı sıra videolara, daha sonra kökenlerini belirlemek için ortaya çıkarılabilecek gizli bir mesaj da ekleyebilir. Meta, Video Seal’in bulanıklaştırma ve kırpma gibi yaygın düzenlemelerin yanı sıra popüler sıkıştırma algoritmalarına karşı dayanıklı olduğunu iddia ediyor.
Fernandez, Video Seal’in bazı sınırlamaları olduğunu, özellikle de aracın filigranlarının algılanabilirliği ile bunların manipülasyona karşı genel dayanıklılığı arasındaki dengeyi kabul ediyor. Ağır sıkıştırma ve önemli düzenlemelerin filigranları değiştirebileceğini veya kurtarılamaz hale getirebileceğini ekledi.
Elbette, Video Seal’in karşı karşıya olduğu en büyük sorun, geliştiricilerin ve endüstrinin, özellikle de hâlihazırda özel çözümler kullananların bunu benimsemek için fazla bir nedene sahip olmayacak olmasıdır. Bu sorunu çözmek amacıyla Meta, çeşitli filigranlama yöntemlerinin performansını karşılaştırmaya adanmış, Meta Omni Seal Bench adlı halka açık bir liderlik tablosu başlatıyor ve bu yıl büyük bir AI konferansı olan ICLR’de filigranlama üzerine bir atölye çalışması düzenliyor.
Fernandez, “Giderek daha fazla yapay zeka araştırmacısı ve geliştiricisinin bir tür filigranlamayı çalışmalarına entegre edeceğini umuyoruz” dedi. “Alanda daha hızlı ilerlemek için sektör ve akademik toplulukla işbirliği yapmak istiyoruz.”
