Cisco y el Test de ADN para Modelos de IA
El avance de la inteligencia artificial (IA) está marcado por un creciente marco regulador que promueve la transparencia y la seguridad. Entre estas regulaciones se encuentra el AI Act que exige a los proveedores de sistemas de IA de alto riesgo una documentación técnica exhaustiva antes de la comercialización. Cisco ha respondido a esta necesidad lanzando un innovador « test ADN » que ayuda a asegurar la trazabilidad de los modelos de IA.
Requisitos del AI Act
Documentación Obligatoria
El AI Act, en su Anexo IV, establece claramente qué debe incluirse en la documentación técnica:
- Descripción de los datos de entrenamiento
- Elección de diseño
- Métodos de reentrenamiento
- Infraestructura de cálculo
Este requerimiento entra en vigor en agosto de 2026 para la mayoría de los sistemas bajo el Anexo III, aunque puede extenderse hasta diciembre de 2027 según la propuesta Digital Omnibus. Las autoridades nacionales tendrán derecho a solicitar estos documentos durante diez años tras la comercialización.
Riesgos de Modelos de Terceros
Al utilizar modelos de IA de plataformas como Hugging Face, una empresa puede heredar riesgos ocultos de los modelos subidos. Si el creador original proporciona información engañosa, la empresa que implementa el modelo puede enfrentar severas repercusiones. Según Amy Chang, líder en investigación de seguridad IA en Cisco, la seguridad de la IA dependerá crucialmente de la trazabilidad de los modelos.
El « Test ADN » de Cisco
Funcionalidades del Programa
Cisco ha desarrollado un programa que proporciona evidencias verificables sobre los modelos de IA. Esto incluye:
- Un puntaje numérico
- Un ranking de los modelos candidatos
- Una descomposición por indicadores
Estos resultados se incorporan a la documentación exigida por el AI Act, lo que simplifica considerablemente la adherencia a la normativa.
Accesibilidad para Pequeñas Empresas
La preocupación por el costo de cumplir con estas regulaciones es válida, especialmente para PEMEs y startups. El artículo 11 del AI Act permite a estas empresas presentar una documentación simplificada. Sin embargo, a pesar de esto, deben demostrar la claridad de origen de los componentes utilizados.
Las herramientas comerciales de auditoría de IA suelen ser costosas, pero el Model Provenance Kit de Cisco se ofrece gratuitamente bajo la licencia Apache-2.0. Este kit no requiere hardware especializado y almacena huellas pre-calculadas para su reutilización, permitiendo que empresas anteriormente excluidas accedan a las herramientas de auditoría.
Ejemplo Práctico: Cursor Composer 2
El caso de Cursor Composer 2, que utiliza parcialmente el modelo Kimi 2.5 de Moonshot AI, ejemplifica la importancia de la trazabilidad. Anteriormente, esta dependencia no era evidente y no podía ser detectada sin un análisis de pesos directo. Gracias al kit de Cisco, ahora se puede identificar esta relación a través de las firmas de las capas, lo que refuerza la transparencia en el uso de modelos de IA.
Conclusiones
El desarrollo del « test ADN » por parte de Cisco representa un avance significativo hacia la transparencia y seguridad en el ámbito de la inteligencia artificial. Con la implementación del AI Act, contar con una herramienta que facilita el cumplimiento normativo se vuelve esencial no solo para grandes corporaciones, sino también para pequeñas empresas que buscan navegar el complejo mundo de la IA con confianza y seguridad. La traza de los modelos de IA se convertirá en un estándar, asegurando un futuro más seguro y fiable en el uso de esta tecnología.
About the Author
