AI deepfake’leri o kadar iyi hale geliyor ki, sahte bir MrBeast reklamı TikTok’un reklam denetleme teknolojisini aşarak platformda yer aldı.
İçinde reklam, son derece etkili içerik oluşturucunun 10.000 izleyiciye yalnızca 2 ABD doları karşılığında bir iPhone 15 Pro teklif ettiği ortaya çıktı. Çoğu durumda, bu bir dolandırıcılığın açık bir göstergesi olabilir, ancak MrBeast’ten geliyorsa gerçekten inandırıcı olabilir.
MrBeast (YouTube’daki diğer bireylerden daha fazla aboneye sahip, Jimmy Donaldson adında 25 yaşında bir kişi), insanlara herhangi bir koşula bağlı olmadan ücretsiz evler ve arabalar verdiği (kabul ettikleri sürece) giderek saçma sapan akrobasi videoları yaratarak ünlendi. videosunda). Veya daha yakın zamanlarda, “Dünyanın her ülkesinden” insanlardan bir dizi Olimpiyat benzeri mini oyunda 250.000 dolarlık ödül için yarışmalarını isteyecek.
Dolayısıyla, dolandırıcılıkları tespit etme konusunda pek bilginiz yoksa ve gece geç saatlerde, doğru düzgün düşünemediğiniz bir zamanda TikTok’ta geziniyorsanız, MrBeast’in TikTok reklamı yoluyla dağıtmak üzere 10.000 iPhone satın alması ihtimali dahilinde olabilir. . Sonuçta o gerçekten hiçbir şeyden haberi olmayan hile veya şakacılara bedava iPhone dağıttı.
Hayırsever olmak adına bu, deepfake reklamın TikTok’ta nasıl onaylandığını açıklayabilir. TikTok, reklamları yayınlanmadan önce incelemek için insan denetimi ve – ironik bir şekilde – yapay zeka destekli teknolojinin bir karışımını kullanıyor. Yani esasen TikTok’un yapay zekası, bu MrBeast deepfake’inin arkasındaki yapay zekaya karşı savaştı ve kaybetti.
TikTok, TechCrunch’a reklamı yayınlandıktan birkaç saat sonra kaldırdığını çünkü reklamın TikTok’un reklam politikalarını ihlal ettiğini söyledi. TikTok, reklamverenlerin sentetik veya değiştirilmiş medya kullanmasını tamamen yasaklamıyor ancak platform, reklamverenlerin bu tür bir teknoloji kullanıp kullanmadıklarını çok açık bir şekilde açıklamalarını gerektiriyor.
TikTok, reklamları denetlemek için yapay zeka kullanımında benzersiz değil. Meta diyor “öncelikle otomatik teknolojiye” dayanıyor ancak TikTok’a benzer şekilde, yapay zekasını eğitmek için insan incelemecileri kullanıyor ve bazen reklamları manuel olarak inceliyor.
Aldatıcı deepfake’ler yeni değil, ancak yapay zeka hem yatırımcılar hem de tüketiciler arasında özellikle popüler hale geldikçe, teknolojiye erişim her zamankinden daha kolay hale geliyor. MrBeast gibi internet ünlüleri genç nesillere hitap ederken, yaşlı tüketiciler de kandırılıyor. Yalnızca bu hafta, aktör Tom Hanks ve CBS sunucusu Gayle King, takipçilerini sahte reklamlara yönlendirildikleri konusunda uyardılar.
“DİKKAT!!” Tom Hanks’i yazdı instagram. “Orada benim yapay zeka versiyonumu içeren bir diş planının tanıtımını yapan bir video var. Benim bununla hiçbir ilgim yok.”
FTC zaten yayınladı uyarılar Deepfake pazarlama hakkında, ancak uygulamanın geniş ölçekte düzenlenmesinin zor olduğu kanıtlandı. Küresel seçimler yaklaşırken bu aldatıcı reklamların sonuçları daha da vahim olabilir.