Con su propuesta, la Comisión Europea quiere combatir el abuso infantil en línea. ¿Cómo exactamente quiere hacer eso?
“Ella quiere obligar a las aplicaciones de mensajería como WhatsApp y Signal a escanear todos los mensajes antes de enviarlos. Esto se hace tecnológicamente neutral: ella no dice exactamente cómo se debe hacer esto. Pero con la tecnología actual, esto es imposible. Apple ya lo introdujo una vez, pero se abandonó después de unas semanas. La única forma de hacer eso, mientras se mantiene el cifrado, es mirar de alguna manera los dispositivos mismos”.
¿Cuál es el problema con eso?
“Entonces sería exactamente como si el gobierno tuviera una cámara en tu sala de estar. Ella tendría acceso a todos los mensajes y fotos que envíes a familiares y amigos. Sin mencionar la invasión de su privacidad, sus mensajes y fotos también pueden terminar en manos de piratas informáticos o naciones hostiles. La tentación de extender esta propuesta a otros delitos también sería muy grande. Creo que deberíamos estar muy preocupados por eso. Por lo tanto, hemos enviado una carta abierta de la comunidad científica a la Comisión señalando los diversos peligros y dificultades. Ya ha sido firmado por más de 400 científicos de 38 países diferentes. (de los cuales 21 de nuestro país, DT).”
Aparentemente, la IA también se utilizará para interceptar nuevas imágenes de pornografía infantil. ¿No es eso algo bueno?
“Aquí también es bueno que se aborde el abuso infantil. Pero esto, sin duda, conducirá a una gran cantidad de resultados falsos positivos. Piense en una madre que envía una foto de su hija en la piscina a sus padres. Esas fotos pueden ser consideradas por AI como pornografía infantil. O un ejemplo muy concreto: un hombre en Estados Unidos había enviado una foto del estado de la piel de su hija a su médico. Su cuenta de Google fue bloqueada de inmediato. Tal cosa puede dañar la reputación de muchas personas”.
¿No ha pensado en eso la Unión Europea?
“Han indicado que desplegarán personal suficiente para comprobar todas esas imágenes. Pero eso es alrededor de miles de millones de imágenes y mensajes por día. Eso es prácticamente imposible de todos modos. Además, nadie quiere que otra persona revise todos sus mensajes personales”.
La intención es que las nuevas medidas se introduzcan a partir del próximo año. Sin embargo, esta propuesta aún tiene que ser aprobada por el Parlamento Europeo. ¿Hay alguna posibilidad?
“Todavía tengo la impresión de que actualmente hay una gran mayoría política a favor. El problema es que las organizaciones o los científicos que tienen objeciones son rápidamente descartados como pedófilos. Nosotros mismos hemos notado lo rápido que se saca la carta emocional. En respuesta a nuestra carta abierta, recibimos una respuesta de la Comisión Europea, citando, entre otras cosas, que esto le dará a Interpol más oportunidades para rastrear a los perpetradores, en referencia al testimonio de un ex ejecutivo de Interpol que sufrió abusos en el pasado. .
“Espero que la gente llegue a la conclusión de que esta propuesta va demasiado lejos. A continuación, utilice métodos mejor dirigidos. Por ejemplo, la policía puede registrarse de forma anónima en foros donde se comparten este tipo de imágenes. No me importaría si investigan activamente. Creo que eso sería mucho más eficiente”.