Londres quiere ser pionera en seguridad mediante IA

Una demanda clave de los expertos en IA es mejorar Divulgación de datos de capacitación y verificación., con el que los sistemas de IA aprenden o cuyo comportamiento de aprendizaje se controla. Cuando se trata de datos de entrenamiento, se debe garantizar que ningún dato distorsionado conduzca a decisiones incorrectas.

También se requiere Transparencia en las decisiones. Estos deberían entenderse exactamente. Sólo así se puede saber dónde se tomó una decisión equivocada debido a datos incorrectos o a una ponderación incorrecta en la red neuronal.

En general, según los expertos, también debe regularse que la base de conocimientos respectiva a partir de la cual un sistema de IA desarrolle soluciones, es decir, tome decisiones, contiene datos verificados. Aquí sólo se pueden almacenar datos verificados. Hasta ahora esto no ha sido así en muchas ocasiones.



ttn-es-39