Técnicas de Proton contra el CSAM: Sin escaneo ni puertas traseras
El director técnico de Proton, una empresa conocida por su enfoque en la privacidad y la seguridad de los usuarios, ha declarado que es posible combatir la propagación de contenido ilícito sin necesidad de escanear los mensajes. Aunque se niega a explicar los detalles de esta metodología, destaca que revelarlos podría dar a los malhechores las herramientas necesarias para evadir la detección.
Retos de la Detección de Contenido Ilícito
El principal desafío en la lucha contra el contenido sexual de abuso infantil (CSAM) es el uso creciente de inteligencia artificial generativa, que dificulta la diferenciación entre imágenes sintéticas y fotos reales de víctimas. Esto complica no solo la detección de imágenes problemáticas, sino también el proceso de manejo de las denuncias.
Mecanismos de Detección y Prevención
Butler, el director técnico, utiliza un ejemplo relacionado con cuentas de ransomware para ilustrar su enfoque sin revelar su sistema de detección para el CSAM. La experiencia de Proton en el análisis de patrones de comportamiento ha permitido identificar cuentas que estaban siendo usadas para extorsiones antes de que se emitieran solicitudes legales. Gracias a este análisis, estas cuentas pueden ser desactivadas proactivamente, lo que significa que están neutralizadas meses antes de que surjan nuevas peticiones.
Tres Pilares de la Estrategia
Proton fundamenta su estrategia de combate al CSAM en tres pilares fundamentales:
Detección Interna Por Indicadores: La empresa monitorea ciertos comportamientos y patrones que podrían ser indicativos de actividades ilícitas.
Sistema de Reportes de Usuarios: Se proporciona a los usuarios la posibilidad de reportar contenido problemático que reciben, lo que crea un canal directo de información.
Análisis de Solicitudes Legales: La cantidad de solicitudes legales recibidas actúa como un indicativo indirecto sobre la magnitud del problema presente en la plataforma.
Proton destina aproximadamente el 10% de sus recursos totales a la lucha contra el abuso, un esfuerzo que no reporta ingresos, pero que la empresa considera un compromiso fundamental con la comunidad.
Limitaciones de la Estrategia
A pesar de estos esfuerzos, Butler reconoce que la metodología tiene sus limitaciones. La empresa no puede determinar con precisión la proporción de contenidos ilícitos que se están interceptando, debido a que solo cuenta con indicadores indirectos. Sin embargo, asegura que el volumen de solicitudes legales relacionadas se ha mantenido constante, lo que sugiere que el problema no está creciendo de manera descontrolada.
Conclusiones
El enfoque de Proton demuestra que es posible combatir el CSAM sin recurrir a patrones invasivos como el escaneo sistemático de mensajes. Aun así, el desafío permanece, especialmente con el avance tecnológico que dificulta la tarea de detección. La empresa reitera su compromiso para continuar innovando en su lucha contra estas prácticas ilícitas, buscando siempre equilibrar la seguridad con la protección de la privacidad de sus usuarios.
About the Author
