Le remède est-il pire que le mal ? Le panel d’experts qui a informé la Chambre des Représentants mercredi soir d’un projet de loi européen visant à lutter contre la diffusion de la pédopornographie et le harcèlement numérique est unanime : contrôle du chat va beaucoup trop loin.
« Une idée absurde pour un système de surveillance fantastique », a déclaré Bert Hubert, ancien membre de l’AIVD et ancien membre d’une commission de surveillance des services de renseignement, à propos du projet de loi européen controversé. Comme si, selon Jaap-Henk Hoepman (Université Radboud de Nimègue), expert en protection de la vie privée et professeur associé, chaque foyer disposerait d’une caméra qui s’allumerait automatiquement lorsqu’une violence domestique serait détectée. « Et c’est un très gros si, car comment détecter cela de manière fiable ? »
Tout en diffusant du CSAM – Matériel d’abus sexuel sur des enfants, ou des photos ou des vidéos dans lesquelles des mineurs sont exploités sexuellement – et le toilettage sont des problèmes majeurs, l’Union européenne fait fausse route avec cette proposition, selon les quatre experts. Cela les place dans un groupe en pleine croissance de centaines d’éminents scientifiques, Observateurs européens de la vie privéele Rapporteur national sur la traite des êtres humains et la violence sexuelle contre les enfants et les combattants de la maltraitance des enfants eux-mêmes, comme Offlimits, l’organisation à l’origine de la ligne d’assistance téléphonique néerlandaise contre la pédopornographie. L’année dernière, la hotline a pris des mesures contre neuf mille images de mineurs.
Le cabinet néerlandais critique également de grandes parties du projet de loi, mais souhaite « faire un pas de plus contre la diffusion de matériel pédopornographique en ligne », selon le ministre sortant de la Justice et de la Sécurité, Dilan Yesilgöz (VVD). l’été dernier, dans une lettre au Parlement. Une motion de la Chambre des représentants pour une législation européenne de contrôle du chat ne pas soutenirYesilgöz l’a mis de côté.
Lisez également cet article : La fuite Internet se situe dans un village de la Hollande du Nord
Ce n’est pas dans le meilleur intérêt des enfants
For Offlimits, l’organisation derrière les Néerlandais Ligne d’assistance téléphonique concernant la pornographie juvénile, la proposition actuelle va trop loin, déclare le réalisateur Robbert Hoving dans une déclaration écrite. Le projet de loi n’est pas dans l’intérêt des enfants qu’il prétend protéger. « Parce que le monde des jeunes est en ligne, les expérimentations sexuelles telles que le sexting peuvent également en faire partie. La visualisation de communications privées contribue donc à l’insécurité et provoque une énorme atteinte à la vie privée des utilisateurs.
Selon les gouvernements européens, de plus en plus de matériel pédopornographique est partagé via des services de chat tels que WhatsApp, Signal et Telegram. Ce trafic de messages est en grande partie caché à la vue des services d’enquête, car les chats sont échangés en privé et sont correctement cryptés. Le service de chat lui-même ne peut pas non plus lire. Les gouvernements craignent de perdre de vue les criminels qui se cachent derrière des communications cryptées.
La Commission européenne a donc présenté l’année dernière une facture cela oblige les services de chat à permettre aux services d’enquête de lire. Les « services de communication » tels que WhatsApp peuvent recevoir un « ordre de détection », qui les oblige à détecter les messages contenant du matériel de sollicitation ou de pédopornographie – dans des images, des textes ou des paroles – et à les signaler à une autorité compétente de l’UE.
Analyse côté client
La seule façon de lire les messages sans affaiblir le cryptage en créant une porte dérobée spéciale pour les services chargés de l’application de la loi est analyse côté client, explique le chercheur Jaap-Henk Hoepman. Le service de chat lit ensuite les messages avant qu’ils ne soient cryptés, comme un facteur qui prend note du contenu d’une lettre avant qu’elle ne soit scellée et envoyée.
« Techniquement parlant analyse côté client ne gère pas le cryptage », explique Hoepman. « Mais c’est une interprétation très étroite : le chiffrement est un moyen et non une fin en soi. L’objectif est de protéger la confidentialité des communications. De analyse côté client lisez simplement par-dessus vos épaules. J’ai l’impression que ce projet de loi rend vraiment possible une méthode de détection fondamentalement différente.
L’autre grand point de critique concerne le rôle majeur que la Commission européenne accorde à l’intelligence artificielle. L’échelle à laquelle le matériel de manipulation et de pédopornographie doit être détecté est énorme : WhatsApp compte environ 2,8 milliards d’utilisateurs dans le monde qui envoient des dizaines de messages par jour. L’intelligence artificielle doit faire la distinction entre les photos innocentes de tout-petits dans le bain ou les messages affectueux entre adolescents, d’une part, et le matériel de toilettage et de pédopornographie, d’autre part.
La technologie est loin d’être aussi avancée, a prévenu le professeur et expert en sécurité Internet Michel Van Eeten (TU Delft). « Pour détecter du matériel pédopornographique inconnu et pour le toilettage, cette proposition est en fait une folie. » Même les meilleurs algorithmes, prédit Bert Hubert, ancien membre de l’AIVD, inonderont les services d’enquête de rapports faussement positifs.
Van Eeten estime qu’il est plus concevable de reconnaître du matériel pédopornographique déjà connu, par exemple des images saisies lors d’enquêtes criminelles. Aux Pays-Bas, cette technologie est déjà utilisée avec succès par de nombreux hébergeurs, qui analysent et nettoient leurs serveurs à grande échelle.
« Le pied dans la porte »
Le ministre sortant Yesilgöz estime également que la détection du matériel existant sur la base d’une telle « liste noire » peut être effectuée de manière suffisamment fiable. Dans les négociations avec d’autres pays, elle tente d’ajuster le projet de loi dans ce sens, a-t-elle déclaré fin juin.
Mercredi soir, une nouvelle version du projet de loi a fuité, qui inclut la détection du toilettage selon NOS a été tué. Cependant, la possibilité de détecter également de nouveaux matériaux grâce à l’intelligence artificielle reste dans la loi et peut ensuite être rendue effective par les dirigeants des gouvernements de l’UE, sans avoir à s’adresser à nouveau au Parlement européen. « La dernière version de la proposition tente de garder un petit pied dans la porte pour détecter de nouveaux matériaux », a déclaré Van Eeten mercredi soir.
Hubert : « Ce n’est pas une loi à adapter légèrement : nous décidons d’un coup pour cinq cent millions d’Européens d’utiliser ces scanners. Si nous acceptons cela, nous franchirons une ligne que nous n’avons jamais franchie auparavant. A savoir que chaque Européen doit être surveillé.»
Lisez également cet article : « WhatsApp a menacé de quitter les Pays-Bas en raison de ses obligations d’écoute électronique »