Meta eximió a algunos de sus principales anunciantes de su proceso habitual de moderación de contenido, protegiendo su negocio multimillonario en medio de preocupaciones internas de que los sistemas de la compañía penalizaran por error a las principales marcas.
Según documentos internos de 2023 vistos por el Financial Times, el propietario de Facebook e Instagram introdujo una serie de “barandillas” que “protegen a los que gastan mucho”.
Los memorandos no reportados anteriormente decían que Meta “suprimiría las detecciones” en función de cuánto gastaba un anunciante en la plataforma, y que algunos de los principales anunciantes serían revisados por humanos.
Un documento sugería que un grupo llamado “gastadores P95” (aquellos que gastan más de 1.500 dólares por día) estaban “exentos de restricciones publicitarias” pero aún así “eventualmente serían enviados a una revisión humana manual”.
Los memorandos son anteriores al anuncio de esta semana del director ejecutivo, Mark Zuckerberg, de que Meta estaba poniendo fin a su programa de verificación de datos de terceros y reduciendo su moderación automatizada de contenido, mientras se prepara para el regreso de Donald Trump como presidente.
Los documentos de 2023 muestran que Meta descubrió que sus sistemas automatizados habían marcado incorrectamente algunas cuentas de mayor gasto por incumplimiento de las reglas de la empresa.
La compañía le dijo al Financial Times que las cuentas de mayor gasto estaban desproporcionadamente sujetas a notificaciones erróneas de posibles infracciones. No respondió a las preguntas sobre si alguna de las medidas contenidas en los documentos era temporal o estaba en curso.
Ryan Daniels, portavoz de Meta, dijo que los informes del Financial Times son “simplemente inexactos” y “se basan en una lectura cuidadosamente seleccionada de documentos que establecen claramente que este esfuerzo tenía como objetivo abordar algo sobre lo que hemos sido muy públicos: prevenir errores en la aplicación de la ley”. .
La publicidad constituye la mayor parte de los ingresos anuales de Meta, que ascendieron a casi 135.000 millones de dólares en 2023.
El gigante tecnológico normalmente filtra anuncios utilizando una combinación de inteligencia artificial y moderadores humanos para detener violaciones de sus estándares, en un esfuerzo por eliminar material como estafas o contenido dañino.
En un documento titulado “prevención de errores de grandes gastos”, Meta dijo que tenía siete barreras de seguridad que protegían las cuentas comerciales que generan más de $1,200 en ingresos durante un período de 56 días, así como a los usuarios individuales que gastan más de $960 en publicidad durante el mismo período. período.
Escribió que las barreras ayudan a la empresa a “decidir si una detección debe proceder a una aplicación de la ley” y fueron diseñadas para “suprimir las detecciones”. . . basado en características, como el nivel de inversión en publicidad”.
Puso como ejemplo una empresa que “está en el 5 por ciento superior de los ingresos”.
Meta dijo al Financial Times que utiliza un “mayor gasto” como medida de protección porque esto a menudo significa que los anuncios de la empresa tendrán un mayor alcance y, por lo tanto, las consecuencias podrían ser más graves si una empresa o sus anuncios se eliminan por error.
La compañía también reconoció que había evitado que sus sistemas automatizados deshabilitaran algunas cuentas de alto gasto, en lugar de enviarlas para una revisión humana, cuando la compañía estaba preocupada por la precisión de sus sistemas.
Sin embargo, dijo que todas las empresas seguían sujetas a los mismos estándares publicitarios y que ningún anunciante estaba exento de sus reglas.
En el memorando de “prevención de errores de alto gasto”, la empresa calificó diferentes categorías de barandillas como “bajas”, “medias” o “altas” en términos de si eran “defendibles”.
El personal de Meta designó la práctica de tener barreras de seguridad relacionadas con el gasto como de “baja” defensa.
Otras barreras de seguridad, como utilizar el conocimiento de la confiabilidad de la empresa para ayudarla a decidir si se debe actuar automáticamente ante la detección de una violación de la política, fueron etiquetadas como de “alta” defensa.
Meta dijo que el término “defendible” se refería a la dificultad de explicar la noción de barreras de seguridad a las partes interesadas, en caso de que se malinterpretaran.
Los documentos de 2023 no nombran a los grandes gastadores que cayeron dentro de las barreras de seguridad de la compañía, pero los umbrales de gasto sugieren que miles de anunciantes pueden haber sido considerados exentos del típico proceso de moderación.
Las estimaciones de la firma de inteligencia de mercado Sensor Tower sugieren que los 10 principales consumidores estadounidenses en Facebook e Instagram incluyen a Amazon, Procter & Gamble, Temu, Shein, Walmart, NBCUniversal y Google.
Meta ha logrado ingresos récord en los últimos trimestres y sus acciones se cotizan a un máximo histórico, tras la recuperación de la empresa de una caída pospandémica en el mercado publicitario mundial.
Pero Zuckerberg ha advertido sobre amenazas a su negocio, desde el auge de la inteligencia artificial hasta el rival TikTok, propiedad de ByteDance, que ha ganado popularidad entre los usuarios más jóvenes.
Una persona familiarizada con los documentos argumentó que la empresa estaba “priorizando los ingresos y las ganancias sobre la integridad y la salud del usuario”, y agregó que internamente se habían planteado preocupaciones sobre la posibilidad de eludir el proceso de moderación estándar.
Zuckerberg dijo el martes que la complejidad del sistema de moderación de contenidos de Meta había introducido “demasiados errores y demasiada censura”.
Sus comentarios se produjeron después de que Trump acusara a Meta el año pasado de censurar el discurso conservador y sugiriera que si la compañía interfería en las elecciones de 2024, Zuckerberg “pasaría el resto de su vida en prisión”.
Los documentos internos también muestran que Meta consideró buscar otras exenciones para ciertos anunciantes que más gastan.
En un memorando, el personal de Meta propuso “ofrecer protecciones más agresivas” contra la moderación excesiva a lo que denomina “gastadores de platino y oro”, que en conjunto generan más de la mitad de los ingresos por publicidad.
“La aplicación de la integridad falsamente positiva contra los anunciantes de alto valor cuesta ingresos a Meta [and] erosiona nuestra credibilidad”, se lee en el memorando.
Sugirió una opción de exención general para estos anunciantes de ciertas medidas de aplicación, excepto en “casos muy raros”.
El memorando muestra que el personal concluyó que los anunciantes platino y oro “no eran un segmento adecuado” para una exención amplia, porque se estimaba que el 73 por ciento de sus aplicaciones estaban justificadas, según las pruebas de la compañía.
Los documentos internos también muestran que Meta había descubierto múltiples cuentas generadas por IA dentro de las categorías de grandes gastadores.
Meta ha sido objeto de escrutinio anteriormente por crear exenciones para usuarios importantes. En 2021, la denunciante de Facebook Frances Haugen filtró documentos que mostraban que la empresa tenía un sistema interno llamado “verificación cruzada”, diseñado para revisar el contenido de políticos, celebridades y periodistas para garantizar que las publicaciones no se eliminaran por error.
Según los documentos de Haugen, esto a veces se utilizaba para proteger a algunos usuarios de la aplicación de la ley, incluso si infringían las reglas de Facebook, una práctica conocida como “lista blanca”.
La junta de supervisión de Meta, un organismo independiente estilo “Tribunal Supremo” financiado por la empresa para supervisar sus decisiones de moderación más difíciles, descubrió que el sistema de verificación cruzada había dejado contenido peligroso en línea. Exigió una revisión del sistema, que Meta ha emprendido desde entonces.
About the Author
