La Controversia de la Inteligencia Artificial en Bercy
Un reciente experimento con un modelo de inteligencia artificial (IA) de Alibaba en la Dirección del Tesoro de Francia ha desatado un intenso debate sobre la sufribilidad y los riesgos asociados al uso de tecnologías extranjeras en la administración pública. El modelo, conocido como Qwen AI, fue desconectado tras recibir alertas de altos funcionarios sobre respuestas “sesgadas” en temas relacionados con China.
Un Escenario Problemático
El experimento con este modelo comenzó a principios de junio con alrededor de cien agentes, de los 1,300 que forman parte de la Dirección General del Tesoro (DGT). Este organismo es clave para el seguimiento de la economía francesa y internacional, además de asesorar al gobierno en diversas políticas, incluyendo la fiscalidad y la política comercial.
El uso de Qwen AI, apodado “HéphAIstos”, sorprendió a muchos de los empleados por su inclinación a ofrecer “respuestas orientadas” en relación a temas sensibles como las relaciones diplomáticas entre Francia y China. Un alto funcionario, que prefirió permanecer en el anonimato, calificó la decisión de utilizar este modelo como “gravísima”, señalando que su diseño estaba bajo la supervisión de las autoridades chinas.
Bercy Actúa
Con el surgimiento de estas preocupaciones, Bercy decidió interrumpir la prueba después de solo unos días. El ministro de finanzas confirmó que se cambiaría al modelo de la start-up francesa Mistral AI. Esta decisión se tomó en medio de un creciente clamor por la promoción de una “IA soberana” en Francia, especialmente después del congreso VivaTech.
Implicaciones de la Seguridad de Datos
La utilización de modelos de IA extranjeros plantea inevitablemente cuestiones sobre la seguridad. Aunque Bercy aseguró que Qwen AI funcionaba sin conexión a internet y, por ende, sin capacidad de fuga de datos, expertos como Annabelle Blangero mencionan que siempre puede existir la posibilidad de “puertas traseras”. La dependencia de tecnologías extranjeras en ambientes sensibles es un terreno inestable que debe ser tratado con precaución.
Un Futuro Incierto
La controversia en Bercy es sólo un capítulo en una narrativa más amplia sobre la adopción de IA en la administración pública francesa. El gobierno ha presentado un ambicioso plan para implementar la IA en todas las áreas del sector público, pero la capacidad de estos nuevos sistemas para adaptarse a las necesidades reales de los agentes sigue siendo un gran interrogante. Según un informe, aunque el 75% de los agentes considera útil la IA para su trabajo, casi dos tercios de ellos creen que otros modelos podrían satisfacer mejor sus necesidades.
Conclusiones
La interrupción del modelo Qwen AI en la DGT pone de relieve las tensiones entre la innovación tecnológica y la seguridad pública. A medida que Francia busca expandir su uso de la inteligencia artificial, el equilibrio entre la adopción de nuevas tecnologías y la protección de sus intereses estratégicos permanecerá en el centro del debate. Este episodio marca un recordatorio de que la IA no es solo una herramienta, sino también un campo de batalla ético y político en una era de creciente interconexión global.
About the Author
