Microsoft a démasqué jeudi quatre des individus qui, selon eux, se trouvaient derrière un programme Azure Abuse Enterprise qui implique de tirer parti d’un accès non autorisé aux services d’intelligence artificielle générative (GENAI) afin de produire un contenu offensant et nocif.
La campagne, appelée llmjacking, a ciblé diverses offres d’IA, y compris le service Azure Openai de Microsoft. Le géant de la technologie suit le réseau de cybercriminaux en tant que Storm-2139. Les individus nommés sont –
- Arian Yadegarnia aka “Fiz” d’Iran,
- Alan Krysiak alias “Drago” du Royaume-Uni,
- Ricky Yuen alias “CG-Dot” de Hong Kong, Chine, et
- Phát phùng tấn aka “asakuri” du Vietnam
“Les membres de Storm-2139 ont exploité les informations d’identification des clients exposés à des sources publiques pour accéder illégalement à des comptes avec certains services d’IA génératifs”, Steven Masada, conseiller général adjoint de l’unité des crimes numériques de Microsoft (DCU), dit.
“Ils ont ensuite modifié les capacités de ces services et revendue accès à d’autres acteurs malveillants, fournissant des instructions détaillées sur la façon de générer du contenu nuisible et illicite, y compris des images intimes non consensuelles de célébrités et d’autres contenus sexuellement explicites.”
L’activité malveillante est explicitement réalisée dans l’intention de contourner les garde-corps de sécurité des systèmes d’IA génératifs, a ajouté Redmond.
Le plainte modifiée Vient un peu plus d’un mois après que Microsoft a déclaré qu’il poursuivait une action en justice contre les acteurs de la menace pour avoir participé à un vol de clé API systématique de plusieurs clients, dont plusieurs sociétés américaines, puis monétiser cet accès à d’autres acteurs.
Il a également obtenu une ordonnance du tribunal pour saisir un site Web (“Aitisme[.]net “) qui aurait été une partie cruciale de l’opération criminelle du groupe.
Storm-2139 se compose de trois grandes catégories de personnes: les créateurs, qui ont développé les outils illicites qui permettent l’abus des services d’IA; Fournisseurs, qui modifient et fournissent ces outils aux clients à différents prix; et les utilisateurs finaux qui les utilisent pour générer du contenu synthétique qui viole la politique d’utilisation acceptable de Microsoft et le code de conduite.
Microsoft a déclaré avoir également identifié deux autres acteurs situés aux États-Unis, qui sont basés dans les États de l’Illinois et de la Floria. Leurs identités ont été retenues pour éviter d’interférer avec des enquêtes criminelles potentielles.
Les autres co-conspirateurs, fournisseurs et utilisateurs finaux sans nom sont répertoriés ci-dessous –
- Un John Doe (DOE 2) qui réside probablement aux États-Unis
- Un John Doe (Doe 3) qui réside probablement en Autriche et utilise l’alias “Sekrit”
- Une personne qui réside probablement aux États-Unis et utilise l’alias “pepsi”
- Une personne qui réside probablement aux États-Unis et utilise l’alias “caillou”
- Une personne qui réside probablement au Royaume-Uni et utilise l’alias “Dazz”
- Une personne qui réside probablement aux États-Unis et utilise l’alias “Jorge”
- Une personne qui réside probablement en Turquie et utilise l’alias “Jawajawaable”
- Une personne qui réside probablement en Russie et utilise l’alias “1Phlgm”
- Un John Doe (Doe 8) qui réside probablement en Argentine
- Un John Doe (Doe 9) qui réside probablement au Paraguay
- Un John Doe (Doe 10) qui réside probablement au Danemark
“Aller après des acteurs malveillants nécessite de la persistance et de la vigilance continue”, a déclaré Masada. “En démasquant ces individus et en mettant en lumière leurs activités malveillantes, Microsoft vise à établir un précédent dans la lutte contre une mauvaise utilisation de la technologie de l’IA.”