Bloqueo de Sitios de Contenido Pédopornográfico en Australia
En un importante paso hacia la protección de menores, la Agencia de Seguridad Electrónica de Australia (eSafety Commissioner) anunció el bloqueo de tres sitios web que permitían la generación de contenido pedopornográfico mediante inteligencia artificial (IA). Estos sitios habían recibido más de 100,000 visitas de usuarios australianos, lo que resalta la gravedad del problema.
Contenido Peligroso y Falta de Medidas de Protección
Los sitios en cuestión estaban relacionados con casos previos de contenido pedopornográfico generado por IA, que involucraba principalmente a escolares. Según Julie Inman Grant, la comisionada para la seguridad en línea, estos sitios no implementaron medidas adecuadas para evitar el uso de sus servicios en la creación de contenido ilegal, incluso ofreciendo características que permitían desvestir virtualmente “a cualquier niña”.
Grant destacó que, tras el bloqueo de estos proveedores, se espera un impacto positivo en la reducción de casos de explotación sexual de escolares australianos. Esto subraya la necesidad de acciones más contundentes en la prevención de estos delitos.
La Empresa Detrás de los Sitios: Itai Tech
Los sitios web eran operados por Itai Tech, una compañía que recientemente enfrentó sanciones por parte del regulador británico Ofcom, debido a la falta de medidas de verificación de edad para sus usuarios. Esta falta de control ha sido considerada alarmante, especialmente dado que sus funciones estaban claramente dirigidas a una audiencia infantil.
Incluso, Itai Tech recibió un aviso oficial de eSafety en septiembre y corre el riesgo de enfrentar una multa de hasta 49.5 millones de dólares australianos (aproximadamente 28 millones de euros) por estas características peligrosas.
Nuevas Legislaciones en el Horizonte
El gobierno australiano ha indicado que está trabajando en la creación de una nueva legislación destinada a abordar los contenidos pornográficos generados por IA y el acoso en línea, aunque no ha proporcionado un calendario específico para su implementación.
Desde el 10 de diciembre, se implementará una ley que obligará a diversas plataformas, incluidas Facebook, Instagram y TikTok, a eliminar a los usuarios menores de 16 años, bajo pena de multa. Meta, la empresa matriz de estas plataformas, ya ha tomado la delantera al anunciar la exclusión de usuarios menores de 16 años en Facebook e Instagram a partir del 4 de diciembre, seis días antes de que la ley entre en vigor.
Conclusión
El bloqueo de estos sitios web en Australia marca un hito significativo en la lucha contra la explotación infantil y el uso perjudicial de la inteligencia artificial. Con la implementación de nuevas leyes y regulaciones, se espera que se logre una mayor protección para los menores en el entorno digital. La vigilancia y la regulación son cruciales para erradicar estas prácticas peligrosas y garantizar un ambiente seguro para la juventud.
About the Author
