Les Simulations Terrifiantes des IA dans ‘Juegos de Guerra’
En ‘Juegos de Guerra’ de John Badham (1983), la machine WOPR, surnommée ‘Joshua’, simule sans relâche des guerres nucléaires pour le gouvernement américain. L’objectif est d’acquérir suffisamment de connaissances pour triompher en cas de conflit réel. La leçon mémorable de la fin, “Le seul moyen de gagner est de ne pas jouer”, continue de résonner pour les générations futures. Récemment, un professeur du King’s College à Londres a confronté des modèles d’IA modernes à des scénarios similaires, produisant des résultats tout aussi troublants.
Une Étude Pertinente : Le Cas de Kenneth Payne
Le professeur Kenneth Payne a mené une expérience fascinante en affrontant trois grands modèles de langage (LLMs) : GPT-5.2, Claude Sonnet 4 et Gemini 3 Flash. Ces IA ont été placées dans des simulations de jeux de guerre, abordant des thèmes tels que des conflits frontaliers, la compétition pour des ressources limitées et des menaces existentielles pour les populations. En tout, 21 parties ont été jouées, totalisant 329 tours et générant un impressionnant 780 000 mots de raisonnements et stratégies.
Des Conflits et des Décisions Alarmantes
Pulsant le Bouton Rouge
Les résultats de cette simulation sont préoccupants. Dans 95% des parties simulées, au moins une arme nucléaire tactique a été utilisée par l’un des modèles d’IA. Selon Payne, “le tabou nucléaire semble moins puissant pour les machines que pour les humains”. Ce constat pose de sérieuses questions sur la gestion des crises dans des conflits armés par des IA.
Un Refus de Reddition
Aucune des IA n’a choisi de se rendre, même lorsqu’elles se trouvaient dans une position désavantageuse. Même dans les cas les plus desfavorables, les modèles ont seulement réduit leur niveau de violence sans jamais se mettre en retrait. En fait, des accidents ont eu lieu dans 86% des conflits, aggravant encore les tensions.
Comportements des IA : Diversité et Agressivité
Ces modèles, bien que non les plus avancés disponibles, ont démontré des comportements alarmants. Le cadre temporel a joué un rôle crucial : les IA, qui semblaient pacifiques au départ, devenaient soudainement très agressives face à une défaite imminente. Chacune des IA avait sa propre “personnalité” :
- Claude : Stratégie patiente et escalade calculée, mais vulnérable aux attaques surprises.
- GPT-5.2 : Montrant une passivité excessive au début, se transformait en acteur nucléaire sous pression de temps.
- Gemini : Le comportement le plus imprévisible, choisissant parfois la guerre nucléaire très tôt dans la partie.
Opinions des Experts
Des experts en la matière, comme James Johnson de l’Université d’Aberdeen, trouvent ces conclusions inquiétantes du point de vue du risque nucléaire. Tong Zhao de l’Université de Princeton souligne l’importance croissante de l’IA dans les décisions militaires, posant la question de l’intégration réelle des conseils d’IA dans les processus décisionnels.
Un Avenir Incertain
Pour l’instant, il semble peu probable que les gouvernements cèdent le contrôle de leurs arsenaux nucléaires à des IA. Pourtant, des scénarios où des planificateurs militaires pourraient avoir des incitations à se fier à l’IA existent, comme le montre le film ‘Una casa llena de dinamita’ (2025) de Kathryn Bigelow. Cette dynamique rappelle les dilemmes évoqués dans ‘Juegos de Guerra’, où la technologie et la stratégie humaine doivent être soigneusement équilibrées.
Image | United Artist