La Precaución en el Uso de la Inteligencia Artificial en Instituciones
La creciente adopción de soluciones basadas en inteligencia artificial (IA) en diversas instituciones ha suscitado un debate sobre la confiabilidad y pruebas necesarias antes de implementar estas tecnologías. Rohit Bhardwaj, Subdirector General de la División de Informática de Datos e Innovación del Ministerio de Estadística y Ejecución de Programas (MoSPI), subrayó la necesidad de evaluar cuidadosamente estas herramientas.
Importancia de la Evaluación Previa
Bhardwaj enfatizó que las instituciones no deberían ser “gung-ho” sobre la adopción de soluciones de IA sin antes haberlas sometido a pruebas rigurosas. En el marco de la cumbre de impacto de IA, destacó que un informe de investigadores canadienses mostró que la IA puede analizar un conjunto de datos de múltiples maneras, incluso cuando se le proporcionan solicitudes similares. Esto resalta la complejidad y el riesgo que conlleva la implementación de IA sin una validación adecuada.
Preparación de Datos para la IA
El funcionario explicó que es esencial que los departamentos gubernamentales preparen sus datos para la IA. Esto implica crear archivos que sean legibles por computadora, lo cual incluye la inclusión de archivos de contexto, semántica y metadatos. La organización estructurada de la información es crucial para asegurar que la IA pueda procesarla efectivamente.
Archivos Legibles por Máquina
Bhardwaj sugirió que las instituciones gubernamentales deberían tener un catálogo de datos, evitando que toda la información esté en formato PDF, ya que este no es accesible para máquinas. Propuso la creación de presentaciones que visualicen cómo la IA puede interactuar con diferentes versiones de datos, resaltando la capacidad de la IA para escanear y analizar información de manera extensa.
Desafíos en el Acceso a Datos
Prem Ramaswami de Google también intervino, argumentando que un enfoque centrado en la centralización de datos puede ser peligroso. Propuso que cada organización mantenga sus propios datos bajo un gobierno local, lo que facilitaría el acceso y la asequibilidad para empresas, especialmente para las 74 millones de pequeñas y medianas empresas (pymes) en India, que a menudo no pueden costear expertos en ciencia de datos.
Enfoque Holístico ante Problemas Sociales
El desafío de abordar problemas complejos como la pobreza, el cambio climático, la educación y la salud requiere un enfoque holístico. Ramaswami indicó que la solución no reside en consultar una hoja de cálculo de un solo ministerio, sino en utilizar la IA como una herramienta para un análisis más profundo y global.
Conclusión
La implementación de soluciones de IA en instituciones requiere cautela y preparación adecuada. La responsabilidad recae en entidades como el MoSPI para educar sobre la preparación de datos y la confiabilidad de estos sistemas. Al adoptar un enfoque estructurado y crítico, se puede maximizar el potencial de la IA, garantizando que su uso sea tanto seguro como eficaz.
About the Author
