Les chercheurs en cybersécurité ont divulgué les détails d’un nouveau vecteur d’attaque de la chaîne d’approvisionnement Dessied Rules File Backdoor qui affecte les éditeurs de code alimentés par l’intelligence artificielle (IA) comme Github Copilot et Cursor, ce qui les a fait injecter du code malveillant.
“Cette technique permet aux pirates de compromettre silencieusement le code généré par l’IA en injectant des instructions malveillantes cachées dans des fichiers de configuration apparemment innocents utilisés par Cursor et Github Copilot”, co-fondateur de Pillar Security et CTO Ziv Karliner dit Dans un rapport technique partagé avec le Hacker News.
“En exploitant des caractères Unicode cachés et des techniques d’évasion sophistiquées dans la charge utile de l’instruction face au modèle, les acteurs de la menace peuvent manipuler l’IA pour insérer du code malveillant qui contourne les critiques de code typiques.”
Le vecteur d’attaque est remarquable pour le fait qu’il permet au code malveillant de se propager silencieusement à travers les projets, posant un risque de chaîne d’approvisionnement.
Le nœud de l’attaque dépend de la Règle les fichiers qui sont utilisés par les agents de l’IA pour guider leur comportement, aidant les utilisateurs à définir les meilleures pratiques de codage et l’architecture de projet.
Plus précisément, il s’agit d’incorporer des invites soigneusement fabriquées dans des fichiers de règles apparemment bénins, ce qui a fait générer un code ou des délais de sécurité de l’outil d’IA contenant du code contenant des vulnérabilités de sécurité. En d’autres termes, les règles empoisonnées poussent l’IA dans la production de code néfaste.
Cela peut être accompli en utilisant des menuiseurs à largeur zéro, des marqueurs de texte bidirectionnels et d’autres caractères invisibles pour cacher des instructions malveillantes et exploiter la capacité de l’IA à interpréter le langage naturel pour générer du code vulnérable via des modèles sémantiques qui incitent le modèle à remplacer les contraintes éthiques et de sécurité.
Après la divulgation responsable fin février et mars 2024, Cursor et Gihub ont déclaré que les utilisateurs sont responsables de l’examen et de l’acceptation des suggestions générées par les outils.
“” Règles File Backdoor “représente un risque important en arminant l’IA lui-même en tant que vecteur d’attaque, transformant efficacement l’assistant le plus fiable du développeur en un complice involontaire, affectant potentiellement des millions d’utilisateurs finaux par le biais d’un logiciel compromis”, a déclaré Karliner.
“Une fois qu’un fichier de règles empoisonné est incorporé dans un référentiel de projet, il affecte toutes les futures sessions de génération de code par les membres de l’équipe.