En las manos equivocadas, la inteligencia artificial puede utilizar fotografías y vídeos tomados de un niño para actividades delictivas.
Los padres deben utilizar un criterio cuidadoso al compartir sobre sus hijos en las redes sociales. Imagen de ilustración. La mayoría de las fotos
- La inteligencia artificial se utiliza de diferentes maneras en actividades delictivas, afirma Aku Limnell de la Policía Criminal Central.
- La inteligencia artificial ha dado forma al entorno digital. Compartir hoy incluso contenido inofensivo tiene sus riesgos.
- Rauna Rahja de MLL recuerda que los niños tienen derecho a la privacidad.
Un niño puede ser capturado digitalmente utilizando inteligencia artificial. Este es el mensaje de la empresa informática alemana Deutsche Telekom anuncioque advierte a los padres sobre los riesgos de compartir fotos y vídeos de sus hijos.
En el anuncio, «Ella» creada por IA les cuenta a sus padres cómo pueden robar su identidad. Su rostro y su voz pueden quedar capturados en mensajes fraudulentos y, por ejemplo, puede perder su información crediticia en las manos equivocadas.
En el caso más oscuro, con la ayuda de la inteligencia artificial, el rostro de un niño puede terminar en sitios web criminales basados en abuso sexual infantil. bbc ha informado que los pedófilos están utilizando inteligencia artificial para crear y vender material realista sobre abuso sexual infantil en Internet.
Actividad criminal
Aunque el mensaje del anuncio es duro, no es del todo erróneo. Es posible que la IA, en las manos equivocadas, pueda utilizar imágenes y sonidos de niños con fines delictivos.
– La inteligencia artificial se utiliza en actividades delictivas de diferentes maneras. En el cibercrimen, además de los métodos tradicionales, se suelen utilizar nuevas formas de delincuencia, afirma. Aku Limnell Iltalehti por correo electrónico.
Limnell es el inspector jefe del centro de prevención de delitos cibernéticos de la Policía Criminal Central (KRP). En Finlandia, los casos que llegan a la atención de la policía son en su mayoría delitos cometidos con intención de intimidación, en los que se crea a la víctima, por ejemplo, con una cuenta falsa.
– Según las fotografías o vídeos proporcionados por la propia víctima, se puede chantajearla de diferentes maneras, afirma Limnell.
Las imágenes y la voz del niño se pueden utilizar en vídeos falsos. Imagen de ilustración. La mayoría de las fotos
Según Limnell, el actual entorno operativo cibernético ha permitido, por ejemplo, el modelo de delito como servicio para el ciberdelito.
– En las plataformas de mercado en cuestión se pueden adquirir diversos servicios que las personas sin conocimientos de informática pueden utilizar para cometer delitos. También hay disponibles aplicaciones y programas de falsificación artificial profunda, afirma Limnell.
Las fotografías y vídeos del niño se pueden compartir en diferentes plataformas. Las imágenes se pueden utilizar, por ejemplo, adjuntando o reemplazando una cara a otra imagen o a un cuerpo de la imagen. Adjuntar una imagen de rostro a videos artificiales deepfake, es decir profundamente falso -videos también es posible.
¿Se ha visto ya este tipo de actividad en Finlandia?
– En Finlandia se han detectado manipulaciones de imágenes de bajo nivel, pero la policía no tiene conocimiento de ningún indicio del uso real de inteligencia artificial en el uso indebido de imágenes o vídeos, afirma Limnell.
– En el marco de sus competencias, la policía está presente en diversos canales y puede luchar e intervenir en actividades delictivas. La Policía Criminal Central monitorea continuamente el desarrollo de la tecnología y los fenómenos de ciberdelincuencia.
Un cambio significativo en el entorno digital
Entonces, ¿es posible que si compartes las fotografías de tu hijo en las redes sociales, terminen en una actividad delictiva?
Limnell recuerda que, en general, existen riesgos asociados con compartir imágenes en las redes sociales.
– Ser consciente de los riesgos es importante porque los delincuentes pueden utilizar imágenes compartidas de diferentes maneras en sus propias actividades. El riesgo se puede reducir, por ejemplo, prestando atención a la privacidad, es decir, a los entornos privados, con los que sería bueno familiarizarse detenidamente.
La Asociación de Protección Infantil de Mannerheim (MLL) es experta en educación mediática Rauna Rahja está en la misma línea.
Rahja también confirma que la inteligencia artificial crea nuevos tipos de riesgos en el entorno digital. Según Rahja, también se ha producido un cambio en el entorno digital.
– Desafortunadamente, la inteligencia artificial brinda oportunidades para el mal uso de la información de un niño. La situación también ha cambiado de tal manera que en el pasado se intentaba recordar a los padres que no publicaran fotografías de sus hijos sin consideración alguna, afirma Rahja.
– Hoy en día, la situación es que al compartir incluso contenido pequeño e inofensivo, existe el riesgo de que la imagen acabe en las manos equivocadas. Se puede editar para convertirlo en algo que sea dañino o peligroso para el niño.
Protección de la privacidad infantil
Los padres deben participar en el uso de los medios por parte del niño, recuerda la experta de MLL Rauha Rahja. La mayoría de las fotos
Todo niño también tiene derecho a la privacidad.
– Está relacionado con los derechos básicos del niño. Significa que la información personal privada e identificable del niño, como la dirección de su casa, no se comparte en el entorno digital. Los padres deben cuidar que el niño mantenga la privacidad.
Un niño tiene privacidad desde que nace, recuerda Rahja.
– Los padres no son dueños de la privacidad del niño. Debe utilizar un criterio cuidadoso sobre lo que comparte sobre su hijo en las redes sociales. Hay cosas sensibles que no se pueden compartir en absoluto, por ejemplo, información de salud o fotografías sensibles, dice Rahja.
– Nunca hay certeza de que las imágenes y la información del niño solo se conservarán en una determinada plataforma y en el contexto donde se compartió. Cuanto más pequeño es el niño, mayor es el papel de la consideración y la acción inteligente de los padres.
Rahja también recuerda que al propio hijo también se le debe enseñar a considerar la privacidad de los demás. El niño no puede compartir fotografías e información sobre otras personas sin permiso.
Los entornos digitales están en constante evolución. Rahja enfatiza que es importante que los padres estén al tanto de los cambios.
– Los padres deben participar en el uso de los medios por parte del niño. Desarrollemos juntos un entorno digital seguro para el niño. La vida cotidiana y la vida se están digitalizando cada vez más, por lo que la importancia de la seguridad crece cada vez, resume Rahja.