Meta a été invité à revoir la façon dont il traite les demandes de suppression d’entités étatiques telles que la police, après que le conseil de surveillance de l’entreprise a décidé qu’il était erroné d’interdire un clip vidéo qui, selon les forces de l’ordre britanniques, « contribuerait à un risque de préjudice hors ligne ».
La société mère de Facebook, Instagram et WhatsApp a créé l’année dernière son conseil de surveillance composé de 20 journalistes, universitaires et hommes politiques, chargé de rendre des jugements indépendants sur les affaires de modération de contenu les plus médiatisées.
Le corps, une idée originale du chef de la politique de Meta et ancien vice-Premier ministre britannique, Sir Nick Clegg, a été considéré comme une tentative d’éloigner les hauts dirigeants de l’entreprise des décisions difficiles concernant la liberté d’expression.
Mardi, le conseil de surveillance a statué sur une affaire liée à la chanson de forage, Les secrets ne sont pas sûrs par Chinx, qui contient des références à une précédente fusillade de gang et a été retiré d’Instagram en janvier, après deux demandes de retrait des forces de l’ordre britanniques.
Les actions de Meta ne correspondaient pas à ses politiques, ses valeurs ou ses responsabilités en matière de droits de l’homme, a déclaré mardi la décision du conseil de surveillance.
Si le géant des médias sociaux accepte les recommandations du conseil, cela transformerait la façon dont le géant de la technologie, dirigé par le directeur général Mark Zuckerberg, interagit avec la police et les gouvernements du monde entier, notamment en augmentant la transparence sur les raisons pour lesquelles certaines décisions de modération sont prises.
Le changement apportera un nouvel examen sur la façon dont les groupes chargés de l’application de la loi peuvent soumettre des demandes de retrait de contenu légal, les forces des États-Unis à Israël ayant des unités de référence sur mesure pour les plateformes de médias sociaux.
Le projet de loi sur la sécurité en ligne du Royaume-Uni, qui doit entrer en vigueur l’année prochaine, pourrait obliger les plateformes à supprimer les contenus « légaux mais nuisibles ». Cette mesure constituerait un nouveau précédent mondial en matière de réglementation du contenu en ligne, les défenseurs de la vie privée affirmant qu’elle limiterait la liberté d’expression.
Meta a restauré le clip vidéo après un appel réussi du titulaire du compte. Mais la société a rapidement supprimé à nouveau la vidéo après avoir reçu une deuxième demande des forces de l’ordre que Meta a satisfaite car la vidéo comprenait une « menace voilée » de violence.
La musique de forage comporte souvent des paroles agressives et couvre des problèmes tels que la violence des gangs et la criminalité, mais les liens entre le genre et la violence sont très contestés.
Meta n’avait pas suffisamment de preuves pour montrer que le contenu était une menace crédible et aurait dû donner plus de poids à la nature artistique de la vidéo, a déclaré mardi la décision du conseil de surveillance.
Selon une demande d’accès à l’information menée par le comité de surveillance, la police métropolitaine du Royaume-Uni a demandé aux entreprises de médias sociaux d’examiner 286 contenus impliquant de la musique de forage entre juin 2021 et mai 2022, dont 89% ont été supprimés.
La police n’a pas demandé aux entreprises de médias sociaux d’examiner le contenu lié à tout autre genre musical pendant cette période.
« [Drill is] un moyen pour les jeunes privés de leurs droits, en particulier noirs et bruns, d’exprimer leur mécontentement face au système qui perpétue la discrimination et l’exclusion », a déclaré Shmyla Khan, directrice du groupe de défense des droits numériques basé au Pakistan.
«Créer de la musique avec des« paroles violentes »et des images n’est pas contraire à la loi au Royaume-Uni. . . Meta devrait pratiquer une transparence radicale pour chaque demande qu’il reçoit », a ajouté Khan.
Le conseil de surveillance a recommandé à Meta de clarifier son processus décisionnel concernant les demandes de retrait d’acteurs étatiques, car la structure actuelle pourrait « amplifier les préjugés ».
Il a également recommandé que les utilisateurs puissent faire appel de ces décisions auprès du conseil et créer un système normalisé pour recevoir les demandes de suppression de contenu des acteurs étatiques. Cela devrait inclure la question de savoir comment une politique a été violée et les preuves de cela.
Meta devrait également modifier ses directives sur la violence et l’incitation à inclure des exceptions pour l’humour, la satire et l’expression artistique, a déclaré le conseil.
L’entreprise dispose désormais de 60 jours pour répondre aux recommandations. Meta et la police métropolitaine ont refusé de commenter.
Stephanie Hare, militante et auteur de La technologie n’est pas neutre : un petit guide de l’éthique technologiquea déclaré que la panique morale concernant les genres musicaux n’était pas nouvelle, mais que la nature numérique de la musique créait désormais un handicap pour les entreprises technologiques.
« Ce qui est différent maintenant, c’est que nous le faisons en ligne, afin que vos choix culturels puissent être suivis et retenus contre vous », a-t-elle déclaré. « Il est plus facile pour les entreprises de pécher du côté de la censure que du côté de la liberté. »