En el centro de IA de Rostock se llevan a cabo investigaciones sobre inteligencia artificial.
Fuente: dpa
Las preguntas y respuestas más importantes:
¿Dónde está prohibido el uso de la IA?
- Sistemas de inteligencia artificial que dividen a las personas en grupos según criterios como sus opiniones políticas y religiosas, su orientación sexual o su color de piel.
- Sistemas de crédito social («puntuación social»), probados en China, que evalúan el comportamiento o las características de las personas.
- Sistemas que permiten a las empresas registrar los sentimientos de sus empleados
- Influir en las personas en contra de su voluntad.
- Discriminación, por ejemplo por edad o situación financiera.
La inteligencia artificial se utiliza cada vez más en las escuelas alemanas.21/02/2024 | 2:45 minutos
¿Qué se aplica al reconocimiento facial?
La policía y otras agencias de seguridad pueden utilizar el reconocimiento facial basado en inteligencia artificial en lugares públicos si existe una orden judicial. Este tipo de sistemas ya se han probado en Alemania, en la estación de tren Südkreuz de Berlín.
Teléfonos móviles que no requieren aplicaciones y lo hacen todo con ayuda de inteligencia artificial: esta idea revolucionaria se podrá admirar en la feria de comunicaciones móviles más grande de Europa, el MWC de Barcelona.26/02/2024 | 1:26 minutos
Si se graba material de vídeo, la tecnología puede utilizarse para buscar personas condenadas o sospechosas de delitos graves. Si los funcionarios siguen el material del vídeo en tiempo real, los sistemas de inteligencia artificial también podrán buscar víctimas de trata de personas y violencia sexual. También se les permite utilizar el reconocimiento facial para “prevenir una amenaza terrorista específica y aguda”.
¿Qué aplicaciones se consideran de “alto riesgo”?
La ley identifica en general un “alto riesgo” de violaciones de derechos humanos por el uso de inteligencia artificial en las autoridades de seguridad. Lo mismo se aplica a las aplicaciones de infraestructura crítica y recursos humanos. Las llamadas aplicaciones de alto riesgo también incluyen sistemas que pueden influir en las elecciones.
Los desarrolladores de ChatGPT han lanzado un generador de películas. Su nombre es Sora y puede crear vídeos realistas a partir de especificaciones de texto breves.16/02/2024 | 1:31 minutos
En estos casos, un humano debería, en última instancia, tener el control sobre las decisiones de los sistemas de IA. La ley también exige documentación técnica y un sistema de gestión de riesgos. Los afectados deberían poder presentar una denuncia ante las autoridades contra el uso de los sistemas de IA.
¿Cómo se garantiza la calidad de los sistemas de IA?
A menudo se ven imágenes en Internet creadas por inteligencia artificial. Algunas falsificaciones son obvias. Pero cada vez surgen más falsificaciones peligrosas.27/12/2023 | 1:50 minutos
Se deben desarrollar y entrenar nuevos sistemas con conjuntos de datos equilibrados. Por lo tanto, las autoridades deberían dar a las nuevas empresas de IA acceso a condiciones de prueba reales antes de que una aplicación salga al mercado. La ley también pretende garantizar que no se violen los derechos de autor.
¿Por qué la industria está preocupada por la ley de IA?
Investigadores alemanes en Saarbrücken muestran las oportunidades que ofrecen los sistemas de IA para la economía.8 de noviembre de 2023 | 1:28 minutos
¿A qué sanciones se enfrentan las empresas?
Las violaciones de la ley de IA podrían dar lugar a multas millonarias. Por el uso de una tecnología prohibida, la Comisión de la UE puede exigir pagos de hasta 35 millones de euros o el siete por ciento de la facturación global anual de la empresa.
Quien viole otras disposiciones de la ley deberá enfrentar sanciones de hasta 15 millones de euros o el tres por ciento del volumen de negocios anual.
¿Cuándo se aplica la ley de IA?
Las nuevas normas no se aplicarán hasta la primavera de 2026. Hasta entonces, la Comisión se basará en acuerdos voluntarios con las empresas. Sin embargo, los críticos temen que los requisitos de la UE vuelvan a quedar obsoletos en dos años.
Fuente: AFP