Un reciente experimento con un modelo de inteligencia artificial (IA) de Alibaba en la Direcci\u00f3n del Tesoro de Francia ha desatado un intenso debate sobre la sufribilidad y los riesgos asociados al uso de tecnolog\u00edas extranjeras en la administraci\u00f3n p\u00fablica. El modelo, conocido como Qwen AI, fue desconectado tras recibir alertas de altos funcionarios sobre respuestas “sesgadas” en temas relacionados con China.<\/p>\n
El experimento con este modelo comenz\u00f3 a principios de junio con alrededor de cien agentes, de los 1,300 que forman parte de la Direcci\u00f3n General del Tesoro (DGT). Este organismo es clave para el seguimiento de la econom\u00eda francesa y internacional, adem\u00e1s de asesorar al gobierno en diversas pol\u00edticas, incluyendo la fiscalidad y la pol\u00edtica comercial.<\/p>\n
El uso de Qwen AI, apodado “H\u00e9phAIstos”, sorprendi\u00f3 a muchos de los empleados por su inclinaci\u00f3n a ofrecer “respuestas orientadas” en relaci\u00f3n a temas sensibles como las relaciones diplom\u00e1ticas entre Francia y China. Un alto funcionario, que prefiri\u00f3 permanecer en el anonimato, calific\u00f3 la decisi\u00f3n de utilizar este modelo como “grav\u00edsima”, se\u00f1alando que su dise\u00f1o estaba bajo la supervisi\u00f3n de las autoridades chinas.<\/p>\n
Con el surgimiento de estas preocupaciones, Bercy decidi\u00f3 interrumpir la prueba despu\u00e9s de solo unos d\u00edas. El ministro de finanzas confirm\u00f3 que se cambiar\u00eda al modelo de la start-up francesa Mistral AI. Esta decisi\u00f3n se tom\u00f3 en medio de un creciente clamor por la promoci\u00f3n de una “IA soberana” en Francia, especialmente despu\u00e9s del congreso VivaTech.<\/p>\n
La utilizaci\u00f3n de modelos de IA extranjeros plantea inevitablemente cuestiones sobre la seguridad. Aunque Bercy asegur\u00f3 que Qwen AI funcionaba sin conexi\u00f3n a internet y, por ende, sin capacidad de fuga de datos, expertos como Annabelle Blangero mencionan que siempre puede existir la posibilidad de “puertas traseras”. La dependencia de tecnolog\u00edas extranjeras en ambientes sensibles es un terreno inestable que debe ser tratado con precauci\u00f3n.<\/p>\n
La controversia en Bercy es s\u00f3lo un cap\u00edtulo en una narrativa m\u00e1s amplia sobre la adopci\u00f3n de IA en la administraci\u00f3n p\u00fablica francesa. El gobierno ha presentado un ambicioso plan para implementar la IA en todas las \u00e1reas del sector p\u00fablico, pero la capacidad de estos nuevos sistemas para adaptarse a las necesidades reales de los agentes sigue siendo un gran interrogante. Seg\u00fan un informe, aunque el 75% de los agentes considera \u00fatil la IA para su trabajo, casi dos tercios de ellos creen que otros modelos podr\u00edan satisfacer mejor sus necesidades.<\/p>\n
La interrupci\u00f3n del modelo Qwen AI en la DGT pone de relieve las tensiones entre la innovaci\u00f3n tecnol\u00f3gica y la seguridad p\u00fablica. A medida que Francia busca expandir su uso de la inteligencia artificial, el equilibrio entre la adopci\u00f3n de nuevas tecnolog\u00edas y la protecci\u00f3n de sus intereses estrat\u00e9gicos permanecer\u00e1 en el centro del debate. Este episodio marca un recordatorio de que la IA no es solo una herramienta, sino tambi\u00e9n un campo de batalla \u00e9tico y pol\u00edtico en una era de creciente interconexi\u00f3n global.<\/p>\n