<\/p>\n\nLea tambi\u00e9n<\/strong>\u00bfC\u00f3mo ser\u00e1 el mundo en 2040 si la humanidad permite la IA sin regulaci\u00f3n?<\/span>\n<\/p>\nCuanto mayores son los riesgos, m\u00e1s estrictas son las reglas<\/h2>\n El principio b\u00e1sico de la ley es que cuanto mayores sean los riesgos asociados con un sistema de IA, m\u00e1s estrictas ser\u00e1n las reglas. Significa la prohibici\u00f3n de sistemas con un riesgo inaceptable, por ejemplo los llamados “sistemas de puntuaci\u00f3n social” de los gobiernos, que clasifican a los ciudadanos en funci\u00f3n de caracter\u00edsticas o comportamientos personales, y el uso de software de reconocimiento de emociones por parte de empleadores o instituciones educativas. Ante la insistencia del Parlamento Europeo, tambi\u00e9n estar\u00e1 prohibido predecir si un individuo cometer\u00e1 un error bas\u00e1ndose en sus datos personales, algo que influy\u00f3 en el asunto de los beneficios en los Pa\u00edses Bajos.<\/p>\n
Pero la ley tambi\u00e9n contiene excepciones, algunas de las cuales a\u00fan no est\u00e1n claras en cuanto a su alcance. Durante las negociaciones, los estados miembros de la UE insistieron firmemente en opciones amplias de IA para los servicios de seguridad e investigaci\u00f3n. La prohibici\u00f3n absoluta de tiempo real<\/em>-El reconocimiento facial, que quer\u00eda el Parlamento Europeo, no se implementar\u00e1 por esta raz\u00f3n: los servicios gubernamentales pueden utilizar tales sistemas en la detecci\u00f3n de sospechosos de asesinato y la prevenci\u00f3n de actos terroristas, entre otras cosas.<\/p>\nDecepciona, entre otros, Amnist\u00eda Internacional, que subray\u00f3 en un comunicado que una “prohibici\u00f3n absoluta es realmente necesaria” porque “ninguna garant\u00eda puede evitar el da\u00f1o que el reconocimiento facial causa a los derechos humanos”.<\/p>\n
“Fue una gran batalla”<\/h2>\n El eurodiputado Kim van Sparrentak, que fue uno de los principales negociadores de GroenLinks, habla de una “enorme batalla” que tuvo que librarse en este punto con los gobiernos de la UE. “Realmente me hubiera gustado m\u00e1s, pero al mismo tiempo me alegro de que hayamos podido limitar dr\u00e1sticamente su uso”. Se\u00f1ala que, por ejemplo, el reconocimiento facial s\u00f3lo se puede utilizar en casos muy concretos dirigidos a un solo sospechoso, donde un juez siempre debe dar permiso previo. <\/p>\n
Al menos igual de grande fue la batalla para regular los modelos de IA m\u00e1s potentes, tambi\u00e9n llamados ‘IA de prop\u00f3sito general’ (GPAI), incluido el conocido chatbot ChatGPT. Bajo la presi\u00f3n de un fuerte lobby tecnol\u00f3gico, Alemania, Francia e Italia han abogado por eliminar estos modelos de la ley en las \u00faltimas semanas, imponi\u00e9ndoles s\u00f3lo “autorregulaci\u00f3n”. Argumento principal: unas normas demasiado estrictas obstaculizar\u00edan la innovaci\u00f3n en Europa. <\/p>\n
Ese lobby no tuvo (completamente) \u00e9xito: los modelos GPAI pronto tambi\u00e9n estar\u00e1n sujetos a la ley. Esto significa que las empresas subyacentes deben, entre otras cosas, ser transparentes sobre los datos con los que se han entrenado los modelos. Tambi\u00e9n deben cumplir con la ley europea de derechos de autor y, en el caso de texto, im\u00e1genes o sonido, dejar claro que fueron creados con IA.<\/p>\n
Para los sistemas m\u00e1s grandes, incluido ChatGPT, las reglas ser\u00e1n a\u00fan m\u00e1s estrictas: deber\u00e1n, entre otras cosas, realizar controles peri\u00f3dicos sobre su posible impacto social, limitar los riesgos e informar sobre su consumo de energ\u00eda. <\/p>\n
Al mismo tiempo, aqu\u00ed hay excepciones, espec\u00edficamente para los sistemas que son de “c\u00f3digo abierto”, lo que significa que cualquiera puede ver la tecnolog\u00eda y usarla para entrenar su propio modelo. Como estos sistemas son naturalmente m\u00e1s transparentes, tienen menos obligaciones. A menos que sean calificados como de ‘alto riesgo’, definici\u00f3n que a\u00fan no est\u00e1 muy clara. <\/p>\n
Esto significa que las empresas europeas de IA que m\u00e1s presionaron contra las regulaciones en las \u00faltimas semanas, la alemana Aleph Alpha y la francesa Mistral AI, probablemente no se ver\u00e1n afectadas en parte como empresas de c\u00f3digo abierto. <\/p>\n
No pudo evitar que el lobby tecnol\u00f3gico reaccionara tibiamente al acuerdo. El principal club de lobby, DigitalEurope, expres\u00f3 su preocupaci\u00f3n en un comunicado sobre lo dif\u00edcil que ser\u00e1 para las empresas cumplir con las reglas, lo que las obligar\u00e1 a “gastar m\u00e1s en abogados, en lugar de contratar nuevos desarrolladores de IA”. <\/p>\n
No es un ‘libro de reglas’, sino un ‘trampol\u00edn’<\/h2>\n Se\u00f1ala un punto delicado en el debate sobre la legislaci\u00f3n sobre IA: la acusaci\u00f3n de que las leyes y regulaciones obstaculizan la innovaci\u00f3n. En una declaraci\u00f3n inicial sobre X<\/a> El Comisario europeo Thierry Breton (Mercado Interior) ya se adelant\u00f3 a esas cr\u00edticas, al subrayar que la ley no es s\u00f3lo un “libro de reglas”, sino tambi\u00e9n “un trampol\u00edn para que las empresas emergentes y los investigadores de la UE lideren la carrera mundial de la IA”. <\/p>\nLa esperanza en Europa es que las normas, como ocurri\u00f3 anteriormente con las relativas a la privacidad, eventualmente se adopten (parcialmente) a nivel mundial. Pero es incierto si eso suceder\u00e1. Ya est\u00e1 claro que la UE todav\u00eda est\u00e1 muy por detr\u00e1s de Estados Unidos y China en la carrera mundial por la IA. Por lo tanto, es posible que los modelos m\u00e1s grandes, que deben cumplir con las regulaciones m\u00e1s estrictas, se hayan desarrollado exclusivamente fuera de Europa. Puede alimentar sospechas de proteccionismo. Al mismo tiempo, se dice en Bruselas que la carga administrativa adicional para este tipo de modelos a gran escala queda eclipsada por los millones que este tipo de grandes empresas tecnol\u00f3gicas -como OpenAI o Google- ya est\u00e1n invirtiendo. <\/p>\n
La pr\u00f3xima primavera, los eurodiputados y los estados miembros de la UE tendr\u00e1n que votar nuevamente sobre la propuesta final, despu\u00e9s de lo cual comenzar\u00e1 la fase de implementaci\u00f3n. Las prohibiciones se aplicar\u00e1n despu\u00e9s de seis meses, pero la gran mayor\u00eda del resto de la legislaci\u00f3n no entrar\u00e1 en vigor hasta dos a\u00f1os despu\u00e9s: probablemente en 2026. <\/p>\n
Leyendo lista<\/span><\/span>Env\u00ede un correo electr\u00f3nico al editor<\/span>