La montée de l’intelligence artificielle dans l’évaluation des risques en ligne
Dans un monde où la technologie évolue à une vitesse fulgurante, la question de l’intelligence artificielle (IA) devient de plus en plus centrale, notamment dans le domaine des réseaux sociaux. Avec l’essor des plateformes comme Facebook, Instagram, et WhatsApp, il est primordial de s’interroger sur les implications de l’IA dans le traitement de la sécurité en ligne. En effet, des organisations de défense des droits des utilisateurs ont récemment exprimé de vives inquiétudes concernant les projets de Meta, la société mère de ces plateformes, d’automatiser les évaluations des risques.
Les préoccupations des défenseurs de la sécurité en ligne
Des acteurs clés comme la Molly Rose Foundation, le NSPCC (National Society for the Prevention of Cruelty to Children), et l’Internet Watch Foundation ont adressé une lettre à Ofcom, le régulateur britannique des communications, pour faire part de leurs préoccupations. Dans ce document, ils qualifient l’idée de confier majoritairement les évaluations de risques à des systèmes automatisés de « retour en arrière et hautement alarmante ». Ces organisations soulignent que des évaluations entièrement ou principalement basées sur l’IA ne répondraient pas aux normes de sécurité requises par la Online Safety Act britannique.
Il est crucial de rappeler que cette législation oblige les plateformes à analyser les risques de préjudice liés à leurs services, en particulier pour la protection des enfants et la prévention de contenus illégaux. La manière dont ces évaluations sont effectuées est donc essentielle pour garantir la sécurité des utilisateurs.
La réponse d’Ofcom et la position de Meta
Ofcom a déclaré qu’il « prenait en compte les préoccupations » soulevées par les organisations de la lettre et qu’il comptait examiner ces questions en profondeur. Un porte-parole de l’organisme a précisé que les services devraient indiquer les personnes qui ont créé, examiné et approuvé leurs évaluations des risques. Cependant, cette position laisse subsister des doutes sur la capacité des régulateurs à imposer une transparence suffisante dans les processus automatisés.
De son côté, Meta a vigoureusement contesté les affirmations selon lesquelles elle recourrait à l’IA pour prendre des décisions relatives aux risques. Un représentant de la société a déclaré : « Nous n’utilisons pas l’IA pour prendre des décisions sur les risques. Nos experts ont développé un outil qui aide les équipes à identifier les situations où les exigences légales et politiques s’appliquent. » Cette assertion soulève cependant des interrogations quant à la manière dont les pratiques de modération de contenu et de mise à jour des algorithmes seront supervisées à l’avenir.
Les implications de l’automatisation sur la sécurité des utilisateurs
La mise en œuvre de l’IA dans les processus d’évaluation des risques pourrait potentiellement faciliter le déploiement de nouvelles fonctionnalités sur les plateformes de Meta, mais elle pourrait également accroitre les risques pour les utilisateurs. Un ancien cadre de Meta, s’exprimant anonymement, a indiqué que cette automatisation permettrait de lancer des mises à jour plus rapidement, mais entraînerait « des risques plus élevés » pour les utilisateurs. En effet, des problèmes éventuels pourraient ne pas être détectés avant qu’un nouveau produit ne soit mis à disposition du public.
Les inquiétudes portent également sur des domaines sensibles tels que le risque pour les jeunes et la désinformation. Automatiser les revues dans ces secteurs pourrait refuser des protections essentielles.
Conclusion : Un équilibre délicat à trouver
La question de l’utilisation de l’IA dans les évaluations des risques sur les plateformes de réseaux sociaux pose un dilemme crucial entre l’innovation technologique et la protection de la sécurité des utilisateurs. L’intégration de systèmes automatisés peut offrir des avantages indéniables en termes d’efficacité et de rapidité, mais reste une arme à double tranchant. Un équilibre doit être trouvé entre l’amélioration des processus d’évaluation des risques et la garantie que ces systèmes ne compromettent pas la sécurité, notamment celle des utilisateurs les plus vulnérables. Les prochaines étapes des régulateurs et de Meta seront déterminantes pour l’avenir de la sécurité en ligne et la manière dont l’IA sera intégrée dans ces pratiques critiques.