Un Retirado Acusado Por Error: La Controversia de la Vigilancia en São Paulo
Desde finales de 2024, São Paulo implementó un sistema de videovigilancia llamado “Smart Sampa”, que utiliza tecnología de reconocimiento facial para identificar y detener delincuentes. Sin embargo, esta iniciativa ha desatado un debate intenso sobre sus implicaciones éticas y la precisión de la tecnología.
Un Sistema con Margen de Error
La implementación de “Smart Sampa” incluye la instalación de 40,000 cámaras por toda la ciudad. Aunque sus defensores destacan la efectividad del sistema para reducir la criminalidad, las estadísticas son preocupantes: más del 8% de las personas detenidas por el sistema fueron liberadas debido a errores de identificación. Esto significa que un número significativo de personas inocentes puede ser señalado como fugitivos.
Resultados y Consecuencias del Uso de la IA
Durante su primer año de funcionamiento, “Smart Sampa” logró detener a 4,000 individuos en flagrante delito y recuperar a cerca de 3,000 fugitivos. Orlando Morando, secretario de Seguridad de São Paulo, se muestra entusiasta: “Hoy no puedo imaginar a São Paulo sin Smart Sampa”. Sin embargo, las cifras de falsos positivos plantean serias dudas sobre la fiabilidad de la tecnología.
Víctimas de Errores
Uno de los casos más notorios involucra a un anciano de 80 años, quien fue confundido con un violador y pasó horas en una comisaría. Este tipo de confusiones han afectado al menos a 59 personas, lo que lleva a cuestionar el impacto humano de estas prácticas de vigilancia.
Problemas con los Mandatos de Arresto
Además de los errores de identificación, al menos 141 individuos fueron arrestados con mandatos de captura que resultaron ser obsoletos. Las autoridades locales culpan al sistema judicial por no mantener actualizadas las bases de datos. Esto agrega una capa extra de complejidad y responsabilidad al debate.
Críticas y Controversias
Un Control sobre la Ciudadanía
Críticos del sistema, como Amarilis Costa, directora de una red de abogados, argumentan que “Smart Sampa” no solo se usa para combatir la delincuencia, sino también para controlar a los ciudadanos. A pesar de que el gobierno local resalta una disminución del 15% en robos, la falta de datos sobre la identidad racial de las personas arrestadas hace que surjan preguntas sobre la equidad del sistema.
Racismo Algorítmico
La falta de datos raciales en las estadísticas de arresto ha llevado a acusaciones de “racismo algorítmico”. Estudios previos han demostrado que los sistemas de reconocimiento facial suelen cometer más errores al identificar a personas de razas no blancas. Esto es especialmente preocupante en un país donde la mayoría de la población es negra o mestiza.
Respuesta del Gobierno
Morando defiende el sistema, asegurando que “Smart Sampa” no discrimina en función del color de piel. Sin embargo, las cifras muestran que muchas detenciones se realizan en barrios periféricos, donde residen personas de estratos socioeconómicos bajos.
Conclusión
La implementación de “Smart Sampa” en São Paulo resalta tanto los avances tecnológicos en el enfoque de la seguridad como las serias dudas sobre la ética y la efectividad de tales sistemas. A medida que la ciudad navega por estas aguas turbulentas, la discusión sobre cómo equilibrar la seguridad con la justicia social y los derechos humanos será crucial para el futuro.
About the Author
