Ne zaman Tim Berners-Lee, 1989’da World Wide Web’i icat ettiMuhtemelen yeni sisteminin insanlığın en kötü dürtülerinin deposu olacağını düşünmemişti ama işte buradayız. İnternet korku şovunun en son örneği YouTube’dan geliyor; burada şirket, gerçek suç içeriğiniz için ölü çocukların AI videolarını hazırlamanıza izin verilmediğini söyleyerek politikalarını güncellemek zorunda kaldı.
YouTube değişikliği şöyle açıkladı: postalamak Yardım Merkezinde. Şirket, “16 Ocak’ta, ölen küçükleri veya ölümcül veya iyi belgelenmiş büyük şiddet olaylarının kurbanlarını, onların ölümlerini veya yaşadıkları şiddeti anlatan gerçekçi bir şekilde simüle eden içeriği yayınlamaya başlayacağız” diye yazdı.
Güncelleme, sosyal medyada milyonlarca kez izlenen, gerçek çocuk cinayeti kurbanlarının seslerinin kendi korkunç ölümlerini anlatan, rahatsız edici bir video türüne yanıt olarak geldi. sınır Pazartesi.
Viral bir TikTok videosunda animasyonlu bir bebek, kendisini gerçek bir cinayet kurbanı olan Rody Marie Floyd olarak tanıtmadan önce, “Büyükannem beni henüz 21 aylıkken 230 derecelik bir fırına kilitledi” dedi. “Lütfen beni takip edin ki daha fazla insan gerçek hikayemi bilsin.” Benzer videolar ateşlendi yaygın ilgi YouTube’da.
TikTok’un halihazırda bu tür internet müstehcenliğine yönelik politikaları var. Platform, yapay zeka tarafından oluşturulan videoların etiketlenmesini zorunlu kılıyor ve 18 yaşın altındaki kişilerin veya tanınmış kişi olmayan yetişkinlerin deepfake işlemlerini yasaklıyor.
Videolar sadece izleyiciler için rahatsız edici değil, hayatta kalanlar için de acı verici. Oğlu James Bulger’ın 1993 yılında kaçırılıp öldürüldüğü Denise Fergus, The Guardian’la yaptığı röportajda çocuğunun yer aldığı yapay zeka videolarını “iğrenç” olarak nitelendirdi. Ayna. Fergus, “Bu, ölü bir çocuğu hayata döndürmek” dedi. “Hasta olmanın da ötesinde.”
Birinin internetten para kazanmaya çalışmayacak kadar ahlaksız bir şey olmadığını defalarca gördük. Bu sürüngen şov içeriğini yapan insanları suçlayabilirsiniz, ancak bu aynı zamanda yaratıcıları dikkatimizi çekmeye teşvik eden bir sistemin mantıksal bir sonucudur.
