Parece ser una medida simple y efectiva para evitar la difusión de material de pornografía infantil: escanear cada imagen enviada con un teléfono inteligente en busca de posible pornografía infantil. Es el núcleo de una propuesta de la Comisión Europea contra el abuso infantil en línea. Pero las consecuencias son de tan largo alcance que los científicos, los activistas de la privacidad y otros críticos advierten cada vez más: ni siquiera empieces.
El plan de la Comisión Europea significa que pronto se escaneará cada texto o imagen en un mensaje de chat. A partir de agosto de 2024, esta obligación debería aplicarse a los proveedores de comunicación segura, como WhatsApp, Facebook e iMessage. Ahora usan encriptación de extremo a extremo: los mensajes están encriptados y solo pueden ser leídos por el remitente y el destinatario. Un punto de partida fundamental para conversaciones confidenciales.
Sobre el Autor
Huib Modderkolk es periodista de investigación en de Volkskrant con especial atención a la ciberseguridad y los servicios de inteligencia. Ha ganado varios premios periodísticos y es autor del libro Es guerra pero nadie la ve. Anteriormente trabajó en NRC.
Aunque no está claro cuánta pornografía infantil se envía de esta manera, la Comisión Europea ahora quiere cuestionar esa confidencialidad. El «análisis del cliente», como se le llama en la jerga, debe realizarse antes de cifrar un mensaje. En efecto, se añade un tercero a la comunicación entre emisor y receptor.
Huella digital
Según la propuesta que ahora está sobre la mesa, los servicios de mensajería compararán a partir de ahora la huella digital de las fotos enviadas con una base de datos de huellas dactilares de millones de imágenes pornográficas infantiles conocidas. Si hay una coincidencia, se envía un informe a un centro especial de la UE que evalúa la foto en cuestión y puede alertar a Europol oa las autoridades policiales nacionales si es necesario. Esa base de datos con huellas dactilares la colocan en el teléfono inteligente de los ciudadanos de la UE proveedores como WhatsApp. Un archivo de probablemente unos pocos megabytes.
Las consecuencias de este método son enormes, escribieron 400 científicos e investigadores en el campo de la seguridad y privacidad de la información en una carta abierta a principios de este mes. Señalaron a la Comisión Europea que podrían pasar entre diez y veinte años antes de que se desarrolle una tecnología aceptable que pueda escanear imágenes sin demasiados márgenes de error.
La tecnología actual es vulnerable a la manipulación: un pequeño ajuste a una fotografía pornográfica infantil existente asegura que ya no tenga la misma huella dactilar y, por lo tanto, quede fuera de la base de datos. Las personas malintencionadas también pueden hacer un mal uso del sistema para tener una foto legítima etiquetada como pornografía infantil.
Extremadamente complejo
Además, es extremadamente complejo que un modelo informático distinga entre una foto privada de un niño de 2 años en una piscina del jardín y una imagen de pornografía infantil malintencionada, como la experiencia del Reino Unido, donde ya se está desarrollando inteligencia artificial. utilizado, ha demostrado que es extremadamente complejo. Las computadoras no prestan atención a la intención del creador.
Tampoco verifican la relación entre el remitente de la foto y el niño representado en ella, lo que significa que las fotos privadas pueden terminar pronto con una autoridad europea que evaluará si son decentes. Los expertos esperan que el método previsto por la Comisión Europea produzca tantos errores que el número de informes falsos alcance las decenas de millones por día.
Pero la principal crítica a las propuestas de la UE toca un punto más fundamental. Como dice Jaap-Henk Hoepman, profesor asociado de privacidad y tecnología en la Universidad de Radboud: ‘Esta propuesta pone una palanca en la vida privada de todos los ciudadanos. Estamos tomando un camino al que realmente no quieres ir.
Las implicaciones, dice, son enormes. «La conclusión es que las autoridades tienen la oportunidad de investigar nuestra vida privada, lo que hacemos y decimos en nuestro teléfono», dice. Hoepman lo compara con instalar una cámara de seguridad en todas las casas de los Países Bajos. «Una cámara del gobierno que se activa y configura una transmisión en vivo si detecta un sonido sospechoso».
Vigilancia permanente
Setenta criptógrafos y expertos en seguridad británicos también advirtieron la semana pasada al gobierno británico, que está trabajando en planes similares, que pronto habrá ‘un oficial de policía en el bolsillo de todos’. Los ciudadanos estarán bajo vigilancia permanente, dijeron. WhatsApp y Signal amenazan con abandonar el Reino Unido si estos planes siguen adelante.
Los expertos temen dos escenarios. Uno: el escaneo no se limita a material pornográfico infantil, sino que se extiende insidiosamente a textos e imágenes que contengan terrorismo, violencia o desinformación, por ejemplo. Hoepman: ‘Esa es una dinámica bien conocida: una vez que se presenta la oportunidad, es tentador usarla de manera más amplia’.
Otro temor es que los regímenes autoritarios utilicen la opción para otros fines, como sucedió anteriormente con el software de espionaje israelí. Estaba destinado a rastrear terroristas, pero fue utilizado por países como Hungría, Polonia y España contra periodistas, activistas de derechos humanos y miembros de la oposición. Hoepman: ‘Se reduce el umbral para agregar esa funcionalidad’.
Pequeña esperanza
La propuesta de la Comisión Europea pronto será discutida en el Parlamento Europeo y el Consejo de la UE. Corresponde a España, que actualmente preside la Unión Europea, determinar una posición. Por el momento, los opositores a los planes tienen pocas esperanzas. España rechazó una propuesta sueca anterior para proteger el cifrado de extremo a extremo y no permitir el escaneo del cliente.
El gabinete holandés, ahora saliente, también es partidario del escaneo. El gabinete ignoró una moción adoptada por la Cámara de Representantes en abril para no aceptar el «control de chat que amenaza el cifrado». Justo antes de la caída del gabinete, la ministra de Justicia y Seguridad, Dilan Yesilgöz, repitió a preguntas de la CDA que quiere tener acceso al ‘tráfico de mensajes’ ‘bajo ciertas circunstancias’.