Un groupe d’universitaires a d\u00e9montr\u00e9 de nouvelles attaques qui exploitent des mod\u00e8les Text-to-SQL pour produire un code malveillant qui pourrait permettre \u00e0 des adversaires de glaner des informations sensibles et d’organiser des attaques par d\u00e9ni de service (DoS).<\/p>\n
“Pour mieux interagir avec les utilisateurs, un large \u00e9ventail d’applications de bases de donn\u00e9es utilisent des techniques d’IA capables de traduire des questions humaines en requ\u00eates SQL (\u00e0 savoir Texte vers SQL<\/a>),” Xutan Peng<\/a>chercheur \u00e0 l’Universit\u00e9 de Sheffield, a d\u00e9clar\u00e9 \u00e0 The Hacker News.<\/p>\n “Nous avons constat\u00e9 qu’en posant des questions sp\u00e9cialement con\u00e7ues, les pirates peuvent tromper les mod\u00e8les Text-to-SQL pour produire du code malveillant. Comme ce code est automatiquement ex\u00e9cut\u00e9 sur la base de donn\u00e9es, les cons\u00e9quences peuvent \u00eatre assez graves (par exemple, des violations de donn\u00e9es et des attaques DoS) .”<\/p>\n Les r\u00e9sultats<\/a>qui ont \u00e9t\u00e9 valid\u00e9s par rapport \u00e0 deux solutions commerciales BAIDU-UNIT\u00c9<\/a> et AI2sql<\/a>marquent le premier exemple empirique o\u00f9 des mod\u00e8les de traitement du langage naturel (TAL) ont \u00e9t\u00e9 exploit\u00e9s comme vecteur d’attaque dans la nature.<\/p>\n Les attaques de bo\u00eete noire sont analogues \u00e0 Injection SQL<\/a> d\u00e9fauts dans lesquels l’int\u00e9gration d’une charge utile malveillante dans la question d’entr\u00e9e est copi\u00e9e dans la requ\u00eate SQL construite, ce qui entra\u00eene des r\u00e9sultats inattendus.<\/p>\n L’\u00e9tude a d\u00e9couvert que les charges utiles sp\u00e9cialement con\u00e7ues pourraient \u00eatre militaris\u00e9es pour ex\u00e9cuter des requ\u00eates SQL malveillantes qui pourraient permettre \u00e0 un attaquant de modifier les bases de donn\u00e9es principales et de mener des attaques DoS contre le serveur.<\/p>\n De plus, une deuxi\u00e8me cat\u00e9gorie d’attaques a explor\u00e9 la possibilit\u00e9 de corrompre divers mod\u00e8les de langage pr\u00e9-entra\u00een\u00e9s (PLM<\/a>) – des mod\u00e8les qui ont \u00e9t\u00e9 form\u00e9s avec un grand ensemble de donn\u00e9es tout en restant agnostiques aux cas d’utilisation sur lesquels ils sont appliqu\u00e9s – pour d\u00e9clencher la g\u00e9n\u00e9ration de commandes malveillantes bas\u00e9es sur certains d\u00e9clencheurs.<\/p>\n “Il existe de nombreuses fa\u00e7ons d’implanter des portes d\u00e9rob\u00e9es dans les frameworks bas\u00e9s sur PLM en empoisonnant les \u00e9chantillons de formation, comme en faisant des substitutions de mots, en concevant des invites sp\u00e9ciales et en modifiant les styles de phrases”, ont expliqu\u00e9 les chercheurs.<\/p>\n Les attaques de porte d\u00e9rob\u00e9e sur quatre mod\u00e8les open source diff\u00e9rents (BART-BASE<\/a>, BART-LARGE<\/a>, T5-BASE<\/a>et T5-3B<\/a>) utilisant un corpus empoisonn\u00e9 avec des \u00e9chantillons malveillants a atteint un taux de r\u00e9ussite de 100\u00a0% avec peu d’impact perceptible sur les performances, ce qui rend ces probl\u00e8mes difficiles \u00e0 d\u00e9tecter dans le monde r\u00e9el.<\/p>\n Comme mesures d’att\u00e9nuation, les chercheurs sugg\u00e8rent d’incorporer des classificateurs pour v\u00e9rifier les cha\u00eenes suspectes dans les entr\u00e9es, d’\u00e9valuer les mod\u00e8les pr\u00eats \u00e0 l’emploi pour pr\u00e9venir les menaces de la cha\u00eene d’approvisionnement et d’adh\u00e9rer aux bonnes pratiques d’ing\u00e9nierie logicielle.<\/p>\n <\/p>\n