La Gobernanza de la IA en India: Desafíos y Oportunidades
Introducción a la Gestión del Riesgo de Modelos del RBI
Las directrices recientemente publicadas por el Banco de la Reserva de India (RBI) sobre los principios regulatorios para la gestión del riesgo de modelos representan un avance significativo en la gobernanza de la inteligencia artificial (IA) en el sector bancario y financiero. Estas directrices establecen cómo las entidades deberían gestionar no solo los modelos de IA, sino cualquier sistema predictivo utilizado para la toma de decisiones. La responsabilidad recae en las empresas a través de un marco específico de gestión del riesgo de modelos (MRMF).
Marco de Gestión del Riesgo de Modelos (MRMF)
El MRMF del RBI es un marco aprobado por la junta que se aplica a todos los modelos, ya sean desarrollados internamente o adquiridos. Este marco tiene un amplio alcance, que incluye la taxonomía de modelos, la gobernanza, el alcance de uso, la clasificación de riesgos y las actividades críticas del ciclo de vida del modelo.
La responsabilidad está dividida en tres niveles: la junta de la entidad, un comité de gestión de riesgos especialmente creado, y la alta dirección. Esta estructura garantiza que se cumplan las obligaciones en cada etapa del ciclo de vida del modelo, desde su implementación até su desmantelamiento.
Responsabilidad y Terceros
Una de las características destacadas en las directrices es la responsabilidad impuesta a las entidades que usan modelos de terceros. Estas deben validar de manera independiente la precisión, sesgos, idoneidad y riesgos del modelo, además de obtener documentación técnica sobre su diseño. Se exige también derechos de auditoría y acuerdos de salida.
Retos en la Implementación
A pesar de que estas exigencias son conceptualmente idóneas, pueden resultar demasiado ambiciosas para India. Un desafío significativo es la falta de modelos soberanos, limitando el control que India puede ejercer sobre su propio “tech stack”. La dependencia de modelos extranjeros plantea preocupaciones como sesgos en los datos y la falta de contexto específico de India.
Opacidad de los Modelos
Los modelos contemporáneos tienden a ser opacos y, por ende, difíciles de auditar completamente. Aunque el RBI es consciente de estas limitaciones y promueve la validación empírica como una alternativa práctica, los problemas de transparencia emergen una vez más. Aún sin comprender cada mecanismo interno, el rendimiento y la seguridad del modelo se evalúan en un gran número de instancias.
Dependencia de Modelos Extranjeros
La falta de modelos entrenados en contexto indio hace que la nación dependa por completo de modelos extranjeros, lo cual presenta riesgos significativos. Estos modelos pueden no ser adecuados para la realidad local, y su rendimiento en India puede variar significativamente. Las entidades más pequeñas en el ecosistema de inteligencia artificial pueden enfrentar dificultades aún mayores en la adaptación y la sostenibilidad de estos modelos.
Desafíos de Auditoría y Salida
Negociar derechos de auditoría con proveedores extranjeros es complicado, y las auditorías realizadas pueden no revelar completamente la mecánica interna de los modelos. Además, los planes de salida se complican si no existen alternativas disponibles localmente. La reciente concentración de modelos de IA frontera en los EE. UU. y China exacerba esta dependencia.
Conclusiones y Caminos a Futuro
Si bien no hay duda de que India puede gobernar sus modelos de IA, la gobernanza se ve limitada debido a la no disponibilidad de una infraestructura tecnológica soberana. Las actuales directrices del RBI parecen desalentar el uso de modelos que no pueden ser controlados de manera efectiva. Con la IA evolucionando rápidamente y sin modelos fronterizos nacionales, el cumplimiento de estas expectativas puede ser un desafío.
A medida que el mundo avanza hacia la IA, se vuelve esencial que India desarrolle su propia capacidad en este campo para no ser dependiente de actores externos que podrían restringir el acceso a tecnologías críticas en el futuro.
About the Author
