TikTok yanlışlıkla yeni AI dijital avatar aracının korkuluksuz dahili bir sürümünün bağlantısını yayınlayarak kullanıcıların hemen hemen her şeyi anlatan videolar oluşturmasına olanak tanıdı. Hıçkırık ilk kez CNN tarafından fark edildi ve kanalın diğer ifadelerin yanı sıra Hitler’den alıntılar ve insanlara çamaşır suyu içmelerini söyleyen bir mesaj içeren videolar üretmesine izin verdi. TikTok o zamandan beri aracın bu sürümünü kullanımdan kaldırırken, TikTok’un piyasaya sürmeyi planladığı sürüm mevcut olmaya devam ediyor.
Bu hafta başında başlatılan TikTok’un Senfoni Dijital Avatarları işletmelerin ücretli aktörlerin benzerliğini kullanarak reklam oluşturmasına izin verin. Ayrıca, reklamverenlerin, avatarların TikTok’un yönergeleri dahilinde istediklerini söylemelerini sağlamak için bir komut dosyası girmelerine olanak tanıyan yapay zeka destekli dublajı da kullanıyor. Bu araca yalnızca TikTok Reklam Yöneticisi hesabına sahip kullanıcılar erişebilse de, CNN’in bulduğu sürüm, kişisel hesabı olan herkesin denemesine olanak tanıyor.
Bir açıklamada SınırTikTok sözcüsü Laura Perez, TikTok’un “son derece az sayıda kullanıcının birkaç gün boyunca aracın dahili test sürümünü kullanarak içerik oluşturmasına izin veren” “teknik hatayı” çözdüğünü söyledi.
CNN dahili aracı keşfettiğinde, kanalın Usame bin Ladin’in beyazların üstünlüğü sloganı olan “Amerika’ya Mektup”unu okuyan videolar ve insanlara yanlış günde oy vermelerini söyleyen bir video oluşturmasına izin verdi. CNN’in ürettiği videoların hiçbirinde, videonun yapay zeka tarafından oluşturulduğunu belirten bir filigran yoktu; bu, TikTok’un Senfoni Dijital Avatarlarının uygun sürümünün yaptığı bir şeydir.
CNN, oluşturduğu videoları TikTok’ta yayınlamadı ancak Perez, yayınlasaydı içeriğin “politikalarımızı ihlal ettiği için reddedileceğini” belirtiyor. TikTok o zamandan beri aracının bu sürümünü kaldırmış olsa da, insanların dijital avatar oluşturucuyu kötüye kullanmanın başka yollarını bulup bulamayacağı ve TikTok’un buna hazır olup olmadığı sorusunu gündeme getiriyor.