\n<\/p>\n
Una investigaci\u00f3n realizada por el Observatorio de Internet de Stanford (SIO), presentada el 20 de diciembre, puso de relieve la presencia de varios cientos de im\u00e1genes que resaltan el abuso sexual de menores en un conjunto de datos. Muchas empresas utilizan este \u00faltimo para entrenar modelos de inteligencia artificial (IA) generativa.<\/p>\n
Conocido como LAION-5B, este vasto conjunto de datos se aprovech\u00f3 para el desarrollo del modelo de aprendizaje autom\u00e1tico de Difusi\u00f3n Estable, utilizado por m\u00e1s de diez millones de usuarios en noviembre. Con m\u00e1s de cinco mil millones de im\u00e1genes, pies de foto y textos de todo tipo procedentes de Internet, tendr\u00eda al menos 1.008 ilustraciones que contienen actos de abuso sexual contra ni\u00f1os.<\/p>\n
Para llevar a cabo su investigaci\u00f3n, la SIO utiliz\u00f3 herramientas de hash como PhotoDNA desarrollada por Microsoft. Estas soluciones permiten asociar la huella dactilar de una imagen a partir de bases de datos generadas por organizaciones que reciben y procesan denuncias relacionadas con abusos sexuales a menores en l\u00ednea.<\/p>\n
Al descubrir este contenido, los investigadores del SIO alertaron inmediatamente al Centro Internacional para Ni\u00f1os Desaparecidos y Explotados Sexualmente, con sede en Estados Unidos, as\u00ed como al Centro Canadiense para la Protecci\u00f3n Infantil. Actualmente las dos organizaciones est\u00e1n llevando a cabo los tr\u00e1mites necesarios para lograr la eliminaci\u00f3n de estas impactantes im\u00e1genes en LAION-5B. Como afirma la SIO en una publicaci\u00f3n de blog, \u201c Los modelos podr\u00e1n generar im\u00e1genes impactantes debido a algunos de los datos subyacentes sobre los que se construyeron. El informe recomienda que los modelos basados \u200b\u200ben Stable Diffusion 1.5 queden obsoletos y que la distribuci\u00f3n cese siempre que sea posible.<\/em> “.<\/p>\n La start-up brit\u00e1nica Stable AI, que financi\u00f3 y populariz\u00f3 Stable Diffusion, quiso se\u00f1alar que la versi\u00f3n 1.5 de su inteligencia artificial hab\u00eda sido publicada por Runway, otra entidad que hab\u00eda contribuido al desarrollo del modelo original. Desde entonces, supuestamente se ha creado una versi\u00f3n m\u00e1s reciente del software, la 2.0. utilizando conjuntos de datos que han sido filtrados de contenido ofensivo y peligroso<\/em> “.<\/p>\n Un portavoz de la nueva empresa dijo que la empresa se comprometer\u00eda ” para prevenir el uso indebido de la IA y proh\u00edbe el uso de sus modelos de im\u00e1genes para actividades ilegales, incluidos los intentos de modificar o crear contenido que represente abuso sexual de menores.<\/em> “. Se han introducido varias funciones de etiquetado de contenido para identificar las im\u00e1genes generadas en la plataforma y as\u00ed identificar un posible uso indebido de la IA por parte de personas malintencionadas.<\/p>\n<\/div>\n