Se le ha dicho a Meta que revise la forma en que maneja las solicitudes de eliminación de entidades estatales como la policía, luego de que la junta de supervisión de la compañía dictaminara que estaba mal prohibir un video musical que la policía del Reino Unido argumentó que “contribuiría a un riesgo de daño fuera de línea”.
La empresa matriz de Facebook, Instagram y WhatsApp creó su junta de supervisión el año pasado compuesta por 20 periodistas, académicos y políticos, encargados de emitir juicios independientes sobre los casos de moderación de contenido de más alto perfil.
El organismo, una creación del jefe de política de Meta y ex viceprimer ministro del Reino Unido, Sir Nick Clegg, ha sido visto como un intento de distanciar a los altos ejecutivos de la compañía de las decisiones difíciles sobre la libertad de expresión.
El martes, la junta de supervisión se pronunció sobre un caso relacionado con la canción de perforación, Secretos no seguros por Chinx, que contiene referencias a un tiroteo de pandillas anterior y fue eliminado de Instagram en enero, después de dos solicitudes de eliminación de la policía del Reino Unido.
Las acciones de Meta no se alinearon con sus políticas, valores o responsabilidades de derechos humanos, dijo la decisión de la junta de supervisión el martes.
Si el gigante de las redes sociales acepta las recomendaciones de la junta, transformaría la forma en que el gigante tecnológico, dirigido por el presidente ejecutivo Mark Zuckerberg, interactúa con la policía y los gobiernos de todo el mundo, en particular al aumentar la transparencia sobre por qué se toman ciertas decisiones de moderación.
El cambio traerá un nuevo escrutinio sobre cómo los grupos encargados de hacer cumplir la ley pueden enviar solicitudes de eliminación de contenido legal, con fuerzas desde los EE. UU. hasta Israel que tienen unidades de referencia a medida para las plataformas de redes sociales.
El proyecto de ley de seguridad en línea del Reino Unido, que se convertirá en ley el próximo año, podría obligar a las plataformas a eliminar contenido que es “legal pero dañino”. Esa medida sería un nuevo precedente mundial en la regulación del contenido en línea, y los defensores de la privacidad argumentan que limitaría la libertad de expresión.
Meta restauró el video musical después de una apelación exitosa del titular de la cuenta. Pero la compañía eliminó rápidamente el video nuevamente después de recibir una segunda solicitud de las fuerzas del orden que Meta cumplió porque el video incluía una “amenaza velada” de violencia.
Drill music a menudo presenta letras agresivas y cubre temas que incluyen violencia de pandillas y crimen, pero las conexiones entre el género y la violencia son muy discutidas.
Meta no tenía pruebas suficientes para demostrar que el contenido era una amenaza creíble y debería haber dado más peso a la naturaleza artística del video, dijo el martes la decisión de la junta de supervisión.
Según una solicitud de libertad de información realizada por la junta de supervisión, la Policía Metropolitana del Reino Unido solicitó a las empresas de redes sociales que revisaran 286 piezas de contenido que involucraban música de perforación entre junio de 2021 y mayo de 2022, de las cuales el 89 por ciento fue eliminado.
La fuerza policial no pidió a las empresas de redes sociales que revisaran contenido relacionado con ningún otro género musical durante este período.
“[Drill is] un medio para que los jóvenes privados de sus derechos, particularmente negros y morenos, expresen su descontento con el sistema que perpetúa la discriminación y la exclusión”, dijo Shmyla Khan, directora del grupo de defensa con sede en Pakistán Digital Rights Foundation.
“Crear música con ‘letras violentas’ e imágenes no es ilegal en el Reino Unido. . . Meta debe practicar una transparencia radical para cada solicitud que recibe”, agregó Khan.
La junta de supervisión recomendó que Meta brinde claridad sobre su proceso de toma de decisiones sobre las solicitudes de eliminación de los actores estatales, ya que la estructura actual podría “amplificar el sesgo”.
También recomendó que los usuarios deberían poder apelar contra tales decisiones ante la junta y crear un sistema estandarizado para recibir solicitudes de eliminación de contenido de los actores estatales. Esto debe incluir preguntar cómo se ha violado una política y la evidencia de esto.
Meta también debería modificar sus pautas sobre violencia e incitación para incluir excepciones para el humor, la sátira y la expresión artística, dijo la junta.
La empresa ahora tiene 60 días para responder a las recomendaciones. Meta y la Policía Metropolitana declinaron hacer comentarios.
Stephanie Hare, activista y autora de La tecnología no es neutral: una breve guía sobre la ética tecnológicadijo que el pánico moral sobre los géneros musicales no era nada nuevo, pero que la naturaleza digital de la música ahora creaba una responsabilidad para las empresas de tecnología.
“Lo que es diferente ahora es que estamos haciendo esto en línea, por lo que sus elecciones culturales pueden ser rastreadas y utilizadas en su contra”, dijo. “Es más fácil que las empresas se equivoquen del lado de la censura que del lado de la libertad”.