Avec sa proposition, la Commission européenne veut lutter contre la maltraitance des enfants en ligne. Comment veut-elle faire ça exactement ?
« Elle veut forcer les applications de messagerie comme WhatsApp et Signal à scanner tous les messages avant qu’ils ne soient envoyés. Cela se fait technologiquement neutre : elle ne dit pas exactement comment cela doit être fait. Mais avec la technologie actuelle, c’est impossible. Apple l’a déjà introduit une fois, mais il a été abandonné après quelques semaines. La seule façon de le faire, tout en maintenant le cryptage, est d’examiner d’une manière ou d’une autre les appareils eux-mêmes.
Quel est le problème avec ça ?
« Ce serait alors exactement comme si le gouvernement avait une caméra dans votre salon. Elle aurait accès à tous les messages et photos que vous envoyez à votre famille et à vos amis. Sans parler de l’invasion de votre vie privée, vos messages et photos peuvent également se retrouver entre les mains de pirates ou d’États-nations hostiles. La tentation d’étendre cette proposition à d’autres crimes serait également très grande. Je pense que nous devrions être très préoccupés par cela. Nous avons donc envoyé une lettre ouverte du monde scientifique à la Commission pointant les différents dangers et difficultés. Il a maintenant été signé par plus de 400 scientifiques de 38 pays différents (dont 21 de notre pays, DT).”
Apparemment, l’IA sera également utilisée pour intercepter de nouvelles images pédopornographiques. N’est-ce pas une bonne chose ?
« Ici aussi, il est bon que la maltraitance des enfants soit combattue. Mais cela conduira sans aucun doute à de nombreux résultats faussement positifs. Pensez à une mère qui envoie une photo de sa fille dans la piscine à ses parents. De telles photos peuvent être considérées par AI comme de la pédopornographie. Ou un exemple très concret : un homme aux États-Unis avait envoyé une photo de l’état de peau de sa fille à son médecin. Son compte Google a été immédiatement bloqué. Une telle chose peut nuire à la réputation de nombreuses personnes.
L’Union européenne n’y a-t-elle pas pensé?
« Ils ont indiqué qu’ils déploieraient suffisamment de personnel pour vérifier toutes ces images. Mais cela représente environ des milliards d’images et de messages par jour. C’est pratiquement impossible de toute façon. De plus, personne ne veut qu’une autre personne parcoure tous ses messages personnels.
L’intention est que les nouvelles mesures soient introduites à partir de l’année prochaine. Cependant, cette proposition doit encore passer le Parlement européen. A-t-il une chance ?
« J’ai toujours l’impression qu’il y a actuellement une large majorité politique en sa faveur. Le problème est que les organisations ou les scientifiques qui ont des objections sont rapidement rejetés comme pédophiles. Nous avons nous-mêmes constaté à quelle vitesse la carte émotionnelle est tirée. En réponse à notre lettre ouverte, nous avons reçu une réponse de la Commission européenne, citant, entre autres, que cela donnera à Interpol plus de possibilités de retrouver les auteurs, faisant référence au témoignage d’un ancien cadre d’Interpol qui a lui-même été abusé dans le passé .
« J’espère que les gens en viendront à la conclusion que cette proposition va trop loin. Utilisez ensuite des méthodes mieux ciblées. Par exemple, la police peut s’inscrire de manière anonyme sur des forums où de telles images sont partagées. Cela ne me dérangerait pas s’ils enquêtaient activement. Je pense que ce serait beaucoup plus efficace.