El Ministerio de Acci\u00f3n y Cuentas P\u00fablicas franc\u00e9s, conocido como Bercy, decidi\u00f3 suspender el uso de un modelo de inteligencia artificial en su sistema H\u00e9phAIstos debido a respuestas consideradas sesgadas. Esta decisi\u00f3n resalta la importancia de la imparcialidad y la eficacia en el uso de la tecnolog\u00eda en el sector p\u00fablico.<\/p>\n
A ra\u00edz de esta situaci\u00f3n, la start-up francesa Mistral AI ha tomado el lugar del modelo cuestionado, Qwen. Esta sustituci\u00f3n coincide con el lanzamiento del plan \u00abNuestra IA\u00bb presentado por David Amiel, ministro del \u00e1rea, que busca implementar un asistente conversacional sustentado por Mistral para m\u00e1s de un mill\u00f3n de empleados p\u00fablicos. El costo inicial del proyecto se estima en 700,000 euros, con un gasto anual que podr\u00eda oscilar entre 2 y 4 millones de euros, dependiendo del uso.<\/p>\n
La Direcci\u00f3n Interministerial de Digital (DINUM) realiz\u00f3 pruebas durante diez meses con 10,000 agentes. Los resultados mostraron que el 75% de los participantes consideraba \u00fatil la herramienta, pero cerca de dos tercios opinaron que otros modelos de IA generativa podr\u00edan satisfacer mejor sus necesidades. Este contraste sugiere que, aunque la tecnolog\u00eda tiene potencial, a\u00fan debe mejorarse para cumplir las expectativas de los usuarios.<\/p>\n
El sistema implementado estar\u00e1 alojado en los servidores de Outscale, que cuenta con la certificaci\u00f3n SecNumCloud, el est\u00e1ndar m\u00e1s alto de seguridad exigido por el Estado franc\u00e9s para el manejo de datos sensibles. Este enfoque es crucial para asegurar que la informaci\u00f3n de los ciudadanos est\u00e9 debidamente protegida.<\/p>\n
El modelo previamente utilizado era de Alibaba, seleccionado por su accesibilidad y por ser de c\u00f3digo abierto en sus versiones p\u00fablicas. Esto permiti\u00f3 su implementaci\u00f3n sin necesidad de transferir datos a los servidores de la empresa china, lo que es un punto importante para mitigar los riesgos de filtraci\u00f3n de datos durante la fase de prueba. Sin embargo, esta ventaja no fue suficiente para mantenerlo frente a las preocupaciones sobre la calidad de las respuestas que proporcionaba.<\/p>\n
La situaci\u00f3n de Bercy subraya la necesidad de ser cautelosos al escoger tecnolog\u00edas de inteligencia artificial para el servicio p\u00fablico. La efectividad y la neutralidad deben ser prioritarias al implementar estas herramientas, especialmente en un contexto tan delicado como es la administraci\u00f3n p\u00fablica. La transici\u00f3n a un modelo local como el de Mistral AI puede representar una soluci\u00f3n viable para superar las limitaciones encontradas en el modelo anterior y asegurar un servicio de calidad para los empleados p\u00fablicos.<\/p>\n
A medida que el uso de la inteligencia artificial contin\u00fae expandi\u00e9ndose, ser\u00e1 fundamental mantener un enfoque centrado en la transparencia, la \u00e9tica y la seguridad de los datos. La experiencia de Bercy puede servir como un aviso sobre la importancia de evaluar y adaptar continuamente las soluciones tecnol\u00f3gicas en pro de un mejor servicio p\u00fablico.<\/p>\n