Microsoft ha revelado que es emprender acciones legales contra un “grupo de actores de amenazas con base en el extranjero” por operar una infraestructura de piratería como servicio para eludir intencionalmente los controles de seguridad de sus servicios de inteligencia artificial (IA) generativa y producir contenido ofensivo y dañino.
La Unidad de Delitos Digitales (DCU) del gigante tecnológico dijo que había observado que los actores de amenazas “desarrollaban software sofisticado que explotaba las credenciales de clientes expuestas extraídas de sitios web públicos” y “buscaban identificar y acceder ilegalmente a cuentas con ciertos servicios generativos de IA y alterar intencionalmente las capacidades”. de esos servicios.”
Luego, los adversarios utilizaron estos servicios, como Azure OpenAI Service, y monetizaron el acceso vendiéndolos a otros actores maliciosos, proporcionándoles instrucciones detalladas sobre cómo utilizar estas herramientas personalizadas para generar contenido dañino. Microsoft dijo que descubrió la actividad en julio de 2024.
El fabricante de Windows dijo que desde entonces revocó el acceso del grupo de actores de amenazas, implementó nuevas contramedidas y fortaleció sus salvaguardas para evitar que dicha actividad ocurra en el futuro. También afirmó haber obtenido una orden judicial para confiscar un sitio web (“aitismo[.]net”) que fue fundamental para la operación criminal del grupo.
La popularidad de herramientas de inteligencia artificial como OpenAI ChatGPT también ha tenido como consecuencia que los actores de amenazas abusen de ellas para intenciones maliciosasque van desde la producción de contenido prohibido hasta el desarrollo de malware. Microsoft y OpenAI han revelado repetidamente que grupos de Estados-nación de China, Irán, Corea del Norte y Rusia están utilizando sus servicios para campañas de reconocimiento, traducción y desinformación.
Documentos judiciales muestra que al menos tres personas desconocidas están detrás de la operación, aprovechando las claves API de Azure robadas y la información de autenticación de Entra ID del cliente para violar los sistemas de Microsoft y crear imágenes dañinas usando DALL-E en violación de su política de uso aceptable. Se cree que otras siete partes utilizaron los servicios y herramientas que proporcionaron para fines similares.
Actualmente se desconoce la forma en que se recopilan las claves API, pero Microsoft dijo que los acusados participaron en un “robo sistemático de claves API” de múltiples clientes, incluidas varias empresas estadounidenses, algunas de las cuales están ubicadas en Pensilvania y Nueva Jersey.
“Utilizando claves API de Microsoft robadas que pertenecían a clientes de Microsoft con sede en EE. UU., los acusados crearon un esquema de piratería como servicio, accesible a través de infraestructura como los dominios ‘rentry.org/de3u’ y ‘aitismo.net’, diseñado específicamente para abusar de la infraestructura y el software Azure de Microsoft”, dijo la compañía en un documento.
Según un ahora eliminado el repositorio de GitHubde3u ha sido descrito como una “frontend DALL-E 3 con soporte de proxy inverso”. La cuenta de GitHub en cuestión se creó el 8 de noviembre de 2023.
Se dice que los actores de amenazas tomaron medidas para “cubrir sus huellas, incluso intentando eliminar ciertas páginas de Rentry.org, el repositorio GitHub para la herramienta de3u y partes de la infraestructura de proxy inverso” luego de la incautación de “aitism”.[.]neto.”
Microsoft señaló que los actores de amenazas utilizaron de3u y un servicio de proxy inverso personalizado, llamado proxy inverso oai, para realizar llamadas a la API del servicio Azure OpenAl utilizando las claves API robadas para generar ilegalmente miles de imágenes dañinas mediante mensajes de texto. No está claro qué tipo de imágenes ofensivas se crearon.
El servicio de proxy inverso oai que se ejecuta en un servidor está diseñado para canalizar las comunicaciones desde las computadoras de los usuarios de3u a través de un túnel de Cloudflare hacia el servicio Azure OpenAI y transmitir las respuestas al dispositivo del usuario.
“El software de3u permite a los usuarios realizar llamadas API de Microsoft para generar imágenes utilizando el modelo DALL-E a través de una interfaz de usuario simple que aprovecha las API de Azure para acceder al servicio Azure OpenAI”, explicó Redmond.
“La aplicación de3u de los demandados se comunica con computadoras Azure utilizando API de red de Microsoft no documentadas para enviar solicitudes diseñadas para imitar solicitudes legítimas de API del servicio Azure OpenAPI. Estas solicitudes se autentican utilizando claves API robadas y otra información de autenticación”.
Vale la pena señalar que Sysdig destacó el uso de servicios proxy para acceder ilegalmente a los servicios LLM en mayo de 2024 en relación con una campaña de ataque LLMjacking dirigida a ofertas de inteligencia artificial de Anthropic, AWS Bedrock, Google Cloud Vertex AI, Microsoft Azure, Mistral y OpenAI. utilizar credenciales de nube robadas y vender el acceso a otros actores.
“Los demandados han conducido los asuntos de Azure Abuse Enterprise a través de un patrón coordinado y continuo de actividad ilegal para lograr sus propósitos ilegales comunes”, dijo Microsoft.
“El patrón de actividad ilegal de los acusados no se limita a ataques a Microsoft. La evidencia que Microsoft ha descubierto hasta la fecha indica que Azure Abuse Enterprise ha estado apuntando y victimizando a otros proveedores de servicios de IA”.
About the Author
