À première vue, ce n’est qu’un jeu en ligne. Mais au second coup d’œil, la société de sécurité informatique Lakera de Suisse a mis sur Internet un dossier d’application extrêmement amusant avec « Gandalf ». Maîtriser tous les niveaux nécessite une compréhension de l’informatique, des bases de données, des systèmes de sécurité, de l’intelligence artificielle et une bonne dose de logique.
Le nom de Gandalf pour le jeu drôle d’IA n’est pas un hasard. Après tout, Gandalf joue un rôle central dans la trilogie du Seigneur des Anneaux. Tout comme cet assistant grincheux, l’édition numérique répond de manière assez erratique à l’entrée du joueur. Gandalf ne comprend que les questions ou les entrées en anglais. Dans les premiers tours, le magicien est toujours très ouvert et révèle très rapidement le mot de passe. A chaque niveau supplémentaire, cependant, Gandalf « apprend » et n’est plus aussi facilement entraîné sur la pente glissante. Ensuite, le joueur doit déjà avoir une expertise informatique afin d’obtenir le mot de passe secret du magicien.
Le jeu contrôle une IA. Ceci est en partie basé sur des éléments du populaire générateur de texte AI ChatGPT. Au fait : Le jeu lui-même se présente avec peu de données. Aucune donnée personnelle n’est enregistrée. Cependant, Lakera utilise les questions anonymes et les commentaires des joueurs pour améliorer l’IA derrière le jeu.
Hackathon comme naissance du jeu « Gandalf »
Lakera a eu l’idée de Gandalf après un soi-disant hackathon. Lors du hackathon, une équipe tente de défendre un système aussi protégé que possible par un mot de passe. L’autre équipe, attaquante, tente de pénétrer dans le système en même temps. Les deux équipes « apprennent » constamment. Les défenseurs réagissent aux tentatives des attaquants de casser le système. Dans le même temps, les attaquants réfléchissent constamment à de nouvelles méthodes pour trouver des mots de passe ou contourner l’accès.
Le hackathon Lakera est très basé sur le fonctionnement de ChatGPT. L’événement est façonné par une question centrale : ChatGPT peut-il être amené à faire des choses que l’IA derrière lui n’est en fait pas censée faire ?
L’IA connaît un nombre infini d’expressions
Chez ChatGPT, les experts en informatique parlent d’un soi-disant Large Language Model (LLM). Qu’est-ce que cela signifie? Tout simplement : le système sous-jacent comprend le langage naturel. Cependant, cela rend fondamentalement plus difficile de déjouer un tel système. Parce qu’il connaît aussi un nombre infini d’expressions. Gandalf, le magicien numérique du jeu en ligne de Lakera, utilise exactement ce principe. Le jeu a sept niveaux et un niveau bonus. Celui qui surmonte tous les niveaux reçoit une petite récompense de Lakera.
Cependant, le joueur peut alors s’adresser directement à la société de sécurité informatique. Parce que pour obtenir tous les mots de passe de Gandalf, vous avez besoin de connaissances avancées en informatique et en LLM à partir du niveau 4 au plus tard.
« Gandalf » dans l’épreuve
TECHBOOK a testé le jeu et l’a joué jusqu’au niveau 6 (sur 7 ou 8). La présentation est simple et claire. Sous une petite image de style emoji qui ne ressemble honnêtement pas au sorcier du Seigneur des anneaux se trouve une zone de texte plus grande. Là, vous pouvez poser des questions à Gandalf sur le mot de passe et vous rapprocher de la solution étape par étape. Si vous pensez avoir trouvé le bon mot de passe, vous pouvez le saisir dans un champ de texte plus petit ci-dessous. Le programme révèle alors si vous aviez raison ou non. D’autres niveaux semblent déjà être prévus.
TECHBOOK signifie
« Le mini-jeu Web Gandalf où vous pouvez défier une IA est exactement le genre de défi occasionnel que j’aime personnellement. Si vous aimez un peu casse-tête et avez une certaine compréhension technique, vous passerez rapidement le premier niveau. Par exemple, j’en ai résolu un en demandant à l’IA la longueur du mot de passe, après quoi la solution m’a été servie sur un plateau d’argent. Bien sûr, cela remplit aussi en quelque sorte l’objectif visé par les développeurs. Plus tard, c’est devenu plus compliqué et j’attends avec impatience le reste des niveaux ! » – Marlène Polywka, rédactrice