Aliyah, TikTok’ta el yapımı metal kemer tokaları satmaya çalışan açık tenli bir Black kadın karakter. Geçtiğimiz Mart ayında platformda yayınladığı bir videoda, izleyicilerden görüntü almasına yalvararak gözyaşları döküyor: “Bir Black kadın olarak, beyaz kadınların bu videoda 13 saniye kalacağına daha fazla inanıyorum” gibi bir yazı ekranın köşesinde beliriyor. Gözünden bir damla yaş silerken görünüşü dikkat çekiyor.
Ancak Aliyah gerçek değil ve onun “el yapımı ürünleri” de öyle. TikTok, Facebook ve Instagram üzerinden kitle üretimi ürünleri satmak amacıyla oluşturulmuş yapay zeka tarafından üretilmiş influencer’lardan sadece biri. Sadece Aliyah’a ait olmayan, aynı tasarıma sahip metal kemer tokaları, hızlı moda mağazası Shein’de, Aliyah’ın belirttiği fiyattan dörtte birine satılmakta.
Yapay zeka tarafından üretilmiş bir video olduğunu anlamak için bazı ipuçları mevcut. Aliyah’ın sesi robotik ve duygusuz, bu da ekranın üzerindeki ağlayan yüzüyle çelişiyor. Bir klipte, o esnada dikiş yapılması gerekmeyen bir deri kemer üzerinde dikiş yapıyormuş gibi görünüyor. Yüzünden bir yaş sildiğinde, sildiği yerin altındaki sıvı da ortadan kayboluyor. Ve nihayet, TikTok’ta dolaşan çok sayıda benzer videolar var, fakat farklı yapay zeka karakterleriyle oluşturulmuş.
The Verge, TikTok’ta benzer hikayelere sahip onlarca hesap buldu. Bu hesaplar arasında kemer tokası, çavuş çantalar ve diğer dropshipping ürünlerini içeren videolar yer almakta. Bu videoların çoğu, AI tarafından oluşturulmuş içerik olarak etiketlenmiş. Uzmanlar, bu tür dolandırıcılığın her geçen gün arttığını vurguluyor.
Jeremy Carrasco, yapay zeka tarafından üretilen medya konusunda araştırmalar yapan ve Riddance.ai’nin direktörü olarak, bu videoların e-ticaret siteleriyle bağlantılı olarak büyük bir sorun olduğuna dikkat çekiyor. Carrasco, birçok hesabın organize bir şekilde çalışmadığını, ancak bazılarının koordine olabileceğini belirtiyor. “Şu anda görülen bu perakende dolandırıcılıkları, Shopify sitelerine bağlantılar veriyor” diyor.
Yıllar içinde TikTok gibi platformlar kullanıcıları hızlı bir şekilde kaydırmaya teşvik ederken, bu tür videoların farkına varmadan geçilmesini kolaylaştırıyor. Kullanıcıların dikkatini çekmek oldukça zor.
Sonuç itibarıyla, kullanıcılar bu dolandırıcılıkların farkında olmalı. Kendi deneyimlerinizi ve düşüncelerinizi sormak istiyorum: Bu tür içerikler hakkında ne düşünüyorsunuz?
