Como parte de un estudio realizado por Mazars, empresa especializada en auditoría y consultoría, se midió la reputación e imagen de la inteligencia artificial entre el público general. Mientras que el 81% de los franceses ya han oído hablar de esta tecnología, solo el 58% de los encuestados dice que su presencia es algo bueno para la sociedad.
Crear conciencia sobre los sesgos de justicia y explicabilidad
Si bien más de la mitad del público encuestado parece abierto y favorable al uso de la IA y ve en ella perspectivas positivas en términos de los principales problemas sociales, el resto se muestra muy escéptico. Entre los reacios a democratizar la IA, están preocupados por los riesgos de los ataques de piratas informáticos, las violaciones de la privacidad, el daño al equipo y la comprensión de los resultados de la IA, las transferencias no autorizadas de datos personales o la pérdida de control de las máquinas con algoritmos de IA.
AI: Estados Unidos advierte de los riesgos asociados a la discriminación en la contratación
Para tranquilizar lo más posible a todos los escépticos, Mazars ha identificado dos áreas en las que las instituciones pueden confiar. En primer lugar, la consultoría destaca la importancia de la conciencia de los sesgos de equidad y explicabilidad.
Si bien la IA puede presentar riesgos significativos de difundir y reforzar información y disparidades (como cuando un algoritmo de Facebook confundió a un humano con un primate), puede resultar ser ” una herramienta formidable al servicio de la equidad y la no discriminación ya que, bajo control, no se ve afectada por sesgos humanos (riesgos de familiaridad, empatía selectiva, administración diferenciada según agentes, etc.) “.
Dado que la información, las decisiones o las recomendaciones que proporciona una IA no son directamente comprensibles, Mazars hace un llamamiento a las organizaciones para que sean lo más transparentes posible para evitar un fenómeno excesivo de asimetría de información entre los especialistas en IA y el público en general.
Moderar los riesgos de la inteligencia artificial gracias al control externo periódico
La otra palanca recomendada por Mazars para minimizar la reticencia de los escépticos sería someter sus soluciones de IA a comprobaciones externas periódicas, realizadas por humanos. De hecho, el 40% del público encuestado encuentra los procedimientos poco o nada efectivos. Por el contrario, el 74 % de los franceses confía en los sistemas de control periódico llevados a cabo por un organismo independiente.
Paradójicamente, si bien la publicación de medidas de control interno (por afán de transparencia) es algo que el público en general agradece, no considera que este tipo de control sea efectivo. Los franceses también encuentran moderadamente efectivo establecer una única autoridad de control nacional independiente, pero encuentran que puede ser útil si esta estructura actúa como la autoridad competente para resolver ciertos casos contenciosos.
Según la consultora, si los riesgos asociados a la IA están “bajo control” por parte de controles externos independientes, el número de escépticos podría caer del 40 al 26%. Para concluir, Laurent Inard, socio de servicios de datos de Mazars, analiza cómo se podrían implementar estos controles externos periódicos: “ Si las grillas, las propuestas de pantallas y las herramientas empiezan a florecer, queda por construir el repositorio de auditoría de algoritmos. La auditoría debe combinar revisiones de procedimientos y organización, integrar la naturaleza evolutiva de la IA durante su ciclo de vida y debe hacer uso de pruebas estadísticas complejas y algoritmos de detección: en este sentido, la combinación de experiencia en términos de auditoría y ciencia de datos es, por lo tanto, la clave para el éxito “.
About the Author
