{"id":789725,"date":"2023-06-18T13:57:28","date_gmt":"2023-06-18T15:57:28","guid":{"rendered":"https:\/\/teknomers.com\/fr\/le-jeu-dia-gandalf-est-destine-a-attirer-lattention-sur-les-failles-de-securite\/"},"modified":"2023-06-18T13:57:31","modified_gmt":"2023-06-18T15:57:31","slug":"le-jeu-dia-gandalf-est-destine-a-attirer-lattention-sur-les-failles-de-securite","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/le-jeu-dia-gandalf-est-destine-a-attirer-lattention-sur-les-failles-de-securite\/","title":{"rendered":"Le jeu d’IA “Gandalf” est destin\u00e9 \u00e0 attirer l’attention sur les failles de s\u00e9curit\u00e9"},"content":{"rendered":"


\n<\/p>\n

\n

\n\t\t\t\t\tPar Lars Lubienetzki et Marlene Polywka<\/span><\/span> | 18 juin 2023 16h28<\/span>\t\t\t\t<\/p>\n

<\/p>\n

\n \u00c0 premi\u00e8re vue, ce n’est qu’un jeu en ligne. Mais au second coup d’\u0153il, la soci\u00e9t\u00e9 de s\u00e9curit\u00e9 informatique Lakera de Suisse a mis sur Internet un dossier d’application extr\u00eamement amusant avec “Gandalf”. Ma\u00eetriser tous les niveaux n\u00e9cessite une compr\u00e9hension de l’informatique, des bases de donn\u00e9es, des syst\u00e8mes de s\u00e9curit\u00e9, de l’intelligence artificielle et une bonne dose de logique.<\/strong>\n <\/p>\n

\n
\n

Le nom de Gandalf pour le jeu dr\u00f4le d’IA<\/a> n’est pas un hasard. Apr\u00e8s tout, Gandalf joue un r\u00f4le central dans la trilogie du Seigneur des Anneaux. Tout comme cet assistant grincheux, l’\u00e9dition num\u00e9rique r\u00e9pond de mani\u00e8re assez erratique \u00e0 l’entr\u00e9e du joueur. Gandalf ne comprend que les questions ou les entr\u00e9es en anglais. Dans les premiers tours, le magicien est toujours tr\u00e8s ouvert et r\u00e9v\u00e8le tr\u00e8s rapidement le mot de passe. A chaque niveau suppl\u00e9mentaire, cependant, Gandalf “apprend” et n’est plus aussi facilement entra\u00een\u00e9 sur la pente glissante. Ensuite, le joueur doit d\u00e9j\u00e0 avoir une expertise informatique afin d’obtenir le mot de passe secret du magicien.<\/p>\n<\/div><\/div>\n

Le jeu contr\u00f4le une IA. Ceci est en partie bas\u00e9 sur des \u00e9l\u00e9ments du populaire g\u00e9n\u00e9rateur de texte AI ChatGPT. Au fait : Le jeu lui-m\u00eame se pr\u00e9sente avec peu de donn\u00e9es. Aucune donn\u00e9e personnelle n’est enregistr\u00e9e. Cependant, Lakera utilise les questions anonymes et les commentaires des joueurs pour am\u00e9liorer l’IA derri\u00e8re le jeu.<\/p>\n

Hackathon comme naissance du jeu “Gandalf”<\/h2>\n

Lakera a eu l’id\u00e9e de Gandalf apr\u00e8s un soi-disant hackathon. Lors du hackathon, une \u00e9quipe tente de d\u00e9fendre un syst\u00e8me aussi prot\u00e9g\u00e9 que possible par un mot de passe. L’autre \u00e9quipe, attaquante, tente de p\u00e9n\u00e9trer dans le syst\u00e8me en m\u00eame temps. Les deux \u00e9quipes “apprennent” constamment. Les d\u00e9fenseurs r\u00e9agissent aux tentatives des attaquants de casser le syst\u00e8me. Dans le m\u00eame temps, les attaquants r\u00e9fl\u00e9chissent constamment \u00e0 de nouvelles m\u00e9thodes pour trouver des mots de passe ou contourner l’acc\u00e8s.<\/p>\n

Le hackathon Lakera est tr\u00e8s bas\u00e9 sur le fonctionnement de ChatGPT. L’\u00e9v\u00e9nement est fa\u00e7onn\u00e9 par une question centrale\u00a0: ChatGPT peut-il \u00eatre amen\u00e9 \u00e0 faire des choses que l’IA derri\u00e8re lui n’est en fait pas cens\u00e9e faire\u00a0?<\/p>\n

L’IA conna\u00eet un nombre infini d’expressions<\/h2>\n

Chez ChatGPT, les experts en informatique parlent d’un soi-disant Large Language Model (LLM). Qu’est-ce que cela signifie? Tout simplement : le syst\u00e8me sous-jacent comprend le langage naturel. Cependant, cela rend fondamentalement plus difficile de d\u00e9jouer un tel syst\u00e8me. Parce qu’il conna\u00eet aussi un nombre infini d’expressions. Gandalf, le magicien num\u00e9rique du jeu en ligne de Lakera, utilise exactement ce principe. Le jeu a sept niveaux et un niveau bonus. Celui qui surmonte tous les niveaux re\u00e7oit une petite r\u00e9compense de Lakera.<\/p>\n

Cependant, le joueur peut alors s’adresser directement \u00e0 la soci\u00e9t\u00e9 de s\u00e9curit\u00e9 informatique. Parce que pour obtenir tous les mots de passe de Gandalf, vous avez besoin de connaissances avanc\u00e9es en informatique et en LLM \u00e0 partir du niveau 4 au plus tard.<\/p>\n

“Gandalf” dans l’\u00e9preuve<\/h2>\n

TECHBOOK a test\u00e9 le jeu et l’a jou\u00e9 jusqu’au niveau 6 (sur 7 ou 8). La pr\u00e9sentation est simple et claire. Sous une petite image de style emoji qui ne ressemble honn\u00eatement pas au sorcier du Seigneur des anneaux se trouve une zone de texte plus grande. L\u00e0, vous pouvez poser des questions \u00e0 Gandalf sur le mot de passe et vous rapprocher de la solution \u00e9tape par \u00e9tape. Si vous pensez avoir trouv\u00e9 le bon mot de passe, vous pouvez le saisir dans un champ de texte plus petit ci-dessous. Le programme r\u00e9v\u00e8le alors si vous aviez raison ou non. D’autres niveaux semblent d\u00e9j\u00e0 \u00eatre pr\u00e9vus.<\/p>\n

\n
<\/div>\n

TECHBOOK signifie<\/h3>\n

“Le mini-jeu Web Gandalf o\u00f9 vous pouvez d\u00e9fier une IA est exactement le genre de d\u00e9fi occasionnel que j’aime personnellement. Si vous aimez un peu casse-t\u00eate et avez une certaine compr\u00e9hension technique, vous passerez rapidement le premier niveau. Par exemple, j’en ai r\u00e9solu un en demandant \u00e0 l’IA la longueur du mot de passe, apr\u00e8s quoi la solution m’a \u00e9t\u00e9 servie sur un plateau d’argent. Bien s\u00fbr, cela remplit aussi en quelque sorte l’objectif vis\u00e9 par les d\u00e9veloppeurs. Plus tard, c’est devenu plus compliqu\u00e9 et j’attends avec impatience le reste des niveaux\u00a0!” – Marl\u00e8ne Polywka, r\u00e9dactrice<\/strong><\/quote><\/p>\n

\n<\/p><\/div>\n<\/p><\/div>\n


\n
ttn-fr-35<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Par Lars Lubienetzki et Marlene Polywka | 18 juin 2023 16h28 \u00c0 premi\u00e8re vue, ce n’est qu’un jeu en ligne. Mais au second coup d’\u0153il, la soci\u00e9t\u00e9 de s\u00e9curit\u00e9 informatique Lakera de Suisse a mis sur Internet un dossier d’application extr\u00eamement amusant avec “Gandalf”. Ma\u00eetriser tous les niveaux n\u00e9cessite une compr\u00e9hension de l’informatique, des bases […]<\/p>\n","protected":false},"author":1,"featured_media":789726,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[6],"tags":[7392,22028,11716,40,4806,169139,412,1319,65,1835,60],"class_list":["post-789725","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-technologie","tag-attirer","tag-destine","tag-dia","tag-est","tag-failles","tag-gandalf","tag-jeu","tag-lattention","tag-les","tag-securite","tag-sur"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/789725","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=789725"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/789725\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media\/789726"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=789725"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=789725"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=789725"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}