La Ley Europea de IA va tomando forma un poco más

Los eurodiputados adoptaron en comisión las propuestas que compondrán la Ley de IA, un reglamento para regular el uso de la inteligencia artificial (IA). La Unión Europea (UE) espera que su texto será considerado pionero en el mundo entero.

Usos prohibidos de la IA

La Ley AI ​​ha estado en proceso desde 2021, y ahora tiene más de 1.000 enmiendas. Se trata de uno de los textos más negociados en la historia del Parlamento Europeo. El proceso fue particularmente complejo, ya que la inteligencia artificial es una tecnología en evolución y expansión, que ya está afectando a muchos sectores e industrias, tanto en el sector público como en el privado.

Para empezar, la UE ha decidido prohibir varias prácticas relacionadas con el uso de IAen particular el uso de modelos intruso ” Y ” discriminatorio “. Esto incluye prohibir los sistemas de identificación biométrica en tiempo real y en diferido en espacios públicos accesibles, excepto para la aplicación de la ley en la persecución de delitos graves y solo previa autorización judicial.

También están prohibidos los sistemas de categorización biométrica que utilizan características sensibles como el género, la raza, el origen étnico, el estado de ciudadanía, la religión o la orientación política. También están prohibidos los sistemas policiales predictivos basados ​​en perfiles, ubicación o antecedentes penales, así como los sistemas de reconocimiento de emociones por parte de las fuerzas del orden. Finalmente, la recolección masiva de fotos en Internet, así como el uso del reconocimiento facial en lugares públicosse encuentran entre los usos prohibidos.

Un marco fijo para los sistemas” alto riesgo »

El texto presenta principalmente un régimen más estricto para las aplicaciones de IA a “ alto riesgo », en particular los que planteen peligros previsibles para la salud, la seguridad, los derechos fundamentales, el medio ambiente, la democracia o el Estado de derecho. Así, se han colocado en la lista los sistemas utilizados para influir en los votantes en campañas políticas, o aquellos que permiten recomendar en redes sociales” alto riesgo “.

Sorprendido por sistemas como ChatGPT, Los eurodiputados han añadido disposiciones específicas para las IA generativascuyas obligaciones son similares a las previstas para los sistemas considerados “ alto riesgo “, nota El mundo.

Los proveedores de estos modelos deberán cumplir con las obligaciones de transparencia establecidas en el reglamento, asegurando que los usuarios sepan que el contenido ha sido generado por una máquina. También tendrán que aplicar garantías adecuadas con respecto al contenido generado por sus sistemas, y proporcionar un resumen de cualquier material protegido por derechos de autor utilizado para capacitar a sus IA.

Europa se ve a sí misma como pionera en la regulación de la IA

Con la AI Act, la Unión Europea quiere posicionarse como líder mundial en la regulación de la inteligencia artificial. Al otro lado del Atlántico, los reguladores también están avanzando, con una reunión entre la vicepresidenta Kamala Harris y los directores ejecutivos de las empresas de IA más importantes. Por su parte, el Reino Unido acaba de lanzar una extensa investigación sobre el mercado de la IA generativa.

La votación plenaria sobre el texto tendrá lugar en junio. La UE espera que pueda entrar en vigor tan pronto como el próximo año.