YouTube: güncelleme Taciz ve siber zorbalık politikaları, ölen reşit olmayan kişileri veya ölümlerini anlatan ölümcül veya şiddet içeren olayların kurbanlarını “gerçekçi bir şekilde simüle eden” içeriği kısıtlamaya yöneliktir. Google’ın sahibi olduğu platform, 16 Ocak’tan itibaren bu tür içerikleri yayınlamaya başlayacağını söylüyor.
Politika değişikliği, bazı gerçek suç içerik oluşturucularının benzerliği yeniden yaratmak için yapay zekayı kullanma Ölen veya kaybolan çocuklar hakkında. Bu rahatsız edici durumlarda insanlar, yüksek profilli vakaların bu çocuk mağdurlarına, ölümlerini anlatacak çocuksu bir “ses” vermek için yapay zekayı kullanıyor.
Son aylarda içerik oluşturucular tarafından bildirildiği üzere, iki yaşındaki İngiliz James Bulger’ın kaçırılması ve ölümü de dahil olmak üzere çok sayıda yüksek profilli vakayı anlatmak için yapay zekayı kullandı. Washington Post. Hakkında da benzer AI rivayetleri mevcut. Madeleine McCann, bir tatil beldesinden kaybolan üç yaşındaki İngiliz çocuk ve Gabriel Fernández, sekiz yaşında bir çocuktu. işkence görmüş Kaliforniya’da annesi ve erkek arkadaşı tarafından öldürüldü.
YouTube, yeni politikaları ihlal eden içerikleri kaldıracak ve ihtar alan kullanıcılar bir hafta boyunca video, canlı yayın veya hikaye yükleyemeyecek. Üç ihtarın ardından kullanıcının kanalı Youtube’dan kalıcı olarak kaldırılacaktır.
Yeni değişiklikler, YouTube’un yapay zeka içeriğine ilişkin sorumlu açıklamaları çevreleyen yeni politikaların yanı sıra deepfake’lerin kaldırılmasını talep edecek yeni araçlar getirmesinden yaklaşık iki ay sonra geldi. Değişikliklerden biri, kullanıcıların gerçekçi görünen değiştirilmiş veya sentetik içerik oluşturduklarında bunu açıklamasını gerektiriyor. Şirket, yapay zeka kullanımını doğru bir şekilde ifşa etmeyen kullanıcıların “içerik kaldırma, YouTube İş Ortağı Programından uzaklaştırma veya diğer cezalara” tabi olacağı konusunda uyardı.
Ayrıca YouTube, etiketlenmiş olsa bile “gerçekçi şiddet” göstermek için kullanılması durumunda bazı AI içeriklerinin kaldırılabileceğini belirtmişti.
Eylül 2023’te TikTok, sosyal uygulamanın, içerik oluşturucuların gerçekçi sahneler gösteren sentetik veya manipüle edilmiş medya yayınladıklarında açıklama yapmalarını zorunlu kılacak şekilde yönergelerini güncellemesinin ardından, içerik oluşturucuların AI tarafından oluşturulan içeriklerini etiketlemelerine olanak tanıyan bir araç başlattı. TikTok’un politikası, açıklanmayan gerçekçi yapay zeka görsellerinin kaldırılmasına izin veriyor.