Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Sector tecnológico Myft Digest: entregado directamente a su bandeja de entrada.
Tengo un álter ego O, como se conoce ahora en Internet, un avatar. Mi avatar se parece a mí y suena al menos un poco como yo. Él aparece constantemente en Facebook e Instagram. Los colegas que entienden las redes sociales mucho mejor de lo que yo he intentado matar a este avatar. Pero hasta ahora al menos han fallado.
¿Por qué estamos tan decididos a terminar esta versión de mí mismo de mí mismo? Porque es un fraude, un “defake profundo”. Peor aún, él también es literalmente un fraude: trata de hacer que la gente se una a un grupo de inversión que supuestamente lidera. Alguien lo ha diseñado para engañar a las personas, explotando la nueva tecnología, mi nombre y reputación y el del FT. Debe morir. ¿Pero podemos matarlo?
Me presentaron por primera vez a mi avatar el 11 de marzo de 2025. Un ex colega me llamó la atención y lo traje de inmediato a los expertos en el FT.
Resultó que estaba en un anuncio en Instagram para un grupo de WhatsApp supuestamente dirigido por mí. Eso significa que Meta, que posee ambas plataformas, estaba ganando dinero indirectamente con el fraude. Esto fue un shock. Alguien estaba ejecutando un fraude financiero a mi nombre. Era tan malo que Meta se estaba beneficiando de ello.
Mi colega experto contactó a Meta y después de un poco de “To -ing and Fro -ing”, logró eliminar los anuncios ofensivos. Por desgracia, eso estaba lejos del final del asunto. En las semanas posteriores, otras personas, otras, algunas que conocían personalmente y otras que sabían quién soy, trajeron más publicaciones a mi atención. En cada ocasión, después de ser notificado, Meta nos dijo que había sido derribado. Además, también me he inscrito recientemente en un nuevo Meta sistema que utiliza tecnología de reconocimiento facial para identificar y eliminar tales estafas.
En total, sentimos que estábamos al tanto de este mal. Sí, había sido un poco como “Whack-A-Mole”, pero la cantidad de moles que estábamos viendo parecía ser baja y caída. Esto ha resultado estar mal. Después de examinar los datos relevantes, otro colega experto me dijo recientemente que había al menos tres videos diferentes de Deepfake y múltiples imágenes de Photoshopped que se ejecutan en más de 1,700 anuncios con ligeras variaciones en Facebook e Instagram. Los datos, de la biblioteca de anuncios de Meta, muestran que los anuncios alcanzaron a más de 970,000 usuarios solo en la UE, donde las regulaciones requieren que las plataformas tecnológicas informen tales cifras.
“Dado que todos los anuncios están en inglés, esto probablemente representa solo una parte de su alcance general”, señaló mi colega. Presumiblemente, muchas más cuentas del Reino Unido también los vieron.
Estos anuncios fueron comprados por diez cuentas falsas, y aparecieron otras nuevas después de que algunos fueron prohibidos. ¡Esto es como luchar contra la Hydra!
Algún contenido no pudo cargarse. Verifique la conexión a Internet o la configuración del navegador.
Eso no es todo. Creo que hay una diferencia dolorosa entre saber que las plataformas de redes sociales se están utilizando para defraudar a las personas y ser una parte involuntaria de tal estafa. Esto ha sido todo un shock. Entonces, ¿cómo, me pregunto, es posible que una empresa como Meta con sus enormes recursos, incluidas las herramientas de inteligencia artificial, no pueda identificar y eliminar tales fraudes automáticamente, particularmente cuando se informa de su existencia? ¿Es realmente tan difícil o no lo están intentando, como sugiere Sarah Wynn-Williams en su excelente libro? Gente descuidada?
Hemos estado en contacto con funcionarios del Departamento de Cultura, Medios y Deporte, que nos dirigieron a las políticas publicitarias de Meta, que declara que “Los anuncios no deben promover productos, servicios, esquemas u ofertas utilizando prácticas engañosas o engañosas identificadas, incluidas las destinadas a estafar a las personas por dinero o información personal”. Del mismo modo, la Ley de Seguridad en línea requiere plataformas para proteger a los usuarios del fraude.
Un portavoz de Meta mismo dijo: “Está en contra de nuestras políticas para hacerse pasar por figuras públicas y hemos eliminado y deshabilitado los anuncios, cuentas y páginas que se compartieron con nosotros”.
Meta dijo en la autoexculpación que “los estafadores son implacables y evolucionan continuamente sus tácticas para tratar de evadir la detección, por lo que estamos desarrollando constantemente nuevas formas de dificultar que los estafadores engañen a otros, incluido el uso de la tecnología de reconocimiento facial”. Sin embargo, me resulta difícil creer que Meta, con sus vastos recursos, no podría hacerlo mejor. Simplemente no debería estar difundiendo tales fraudes.
Mientras tanto, tenga cuidado. Nunca ofrezco consejos de inversión. Si ve tal anuncio, es una estafa. Si ha sido víctima de esta estafa, comparta su experiencia con el FT en [email protected]. Necesitamos eliminar todos los anuncios y, por lo tanto, saber si Meta se está poniendo al tanto de este problema.
Sobre todo, este tipo de fraude tiene que detenerse. Si Meta no puede hacerlo, ¿quién lo hará?
Sigue a Martin Wolf con myft y incógnita
About the Author
