Avec une vague de licenciements parmi les équipes chargées de la modération, TikTok a mis encore plus de pression sur la sécurité de la plateforme. Également aux Pays-Bas, où l’entreprise a récemment dissous l’équipe de modération.
Un porte-parole de TikTok a confirmé après des questions de CNRC que TikTok a licencié toute son équipe de modération d’Amsterdam, composée de trois cents employés, en septembre. Depuis ce bureau, les messages provenant de nombreux pays européens, dont les Pays-Bas, ont été analysés, entre autres, pour les images de nus, la haine et les fausses nouvelles.
Selon le porte-parole, la vague de licenciements aux Pays-Bas fait « partie d’une réorganisation globale ». La modération des messages en néerlandais a désormais lieu « ailleurs dans le monde », selon le porte-parole, qui ne dit pas savoir exactement où. Un deuxième bureau néerlandais de TikTok, composé principalement d’employés commerciaux et marketing, restera ouvert. TikTok compte 5,7 millions d’utilisateurs néerlandais actifs par mois.
TikTok espère que l’intelligence artificielle (IA) pourra prendre le rôle de modérateurs humains. Le travail de modération est un travail psychologiquement exigeant, où les employés doivent examiner chaque jour des centaines de vidéos explicites signalées par les utilisateurs comme dangereuses ou illégales. L’IA de TikTok détecte actuellement 80 % de tous les messages qui enfreignent les règles de la plateforme.
TikTok souligne qu’il investira cette année 2 milliards de dollars (1,8 milliard d’euros) dans le monde dans la modération et la sécurité. La société a rapporté vendredi au SAI qu’elle emploie encore 40 000 modérateurs pour assurer la sécurité de la plateforme, dont 6 000 en Europe. Le propriétaire de TikTok, la société chinoise Bytedance, compte plus de 110 000 employés dans le monde.
Algorithmes et travail humain
La modération des réseaux sociaux est une combinaison d’algorithmes et de personnes. Pour l’instant, on a désespérément besoin de personnel, car les ordinateurs ne peuvent pas toujours évaluer correctement le contexte ou les nuances d’une photo ou d’une vidéo. Elon Musk en a également fait l’expérience, qui, après son rachat de X, l’ancien Twitter, a supprimé presque toutes les équipes de modération. Après que cela ait conduit à un flot de pédopornographie et de messages haineux sur la plateforme, X a réembauché des employés pour une nouvelle équipe de modération au Texas.
Les licenciements surviennent à un moment douloureux pour TikTok. L’entreprise est sous le feu nourri aux États-Unis, où TikTok a été poursuivie en justice par quatorze États américains. Extrait de l’acte d’accusation et des documents juridiques connexes apparaît, entre autres que la politique de modération de TikTok ne fonctionne pas aussi bien que l’entreprise elle-même voudrait le croire. Par exemple, un tiers des vidéos dans lesquelles la pédophilie est normalisée ne sont pas détectées.
Selon la plainte, l’application provoque également des dommages psychologiques importants chez les jeunes utilisateurs, tels que des plaintes dépressives et de la morphodysphorie (une aversion pour son propre corps). Les adolescents sont particulièrement sensibles au caractère extrêmement addictif de l’application.
On estime également que TikTok ne fait pas assez pour lutter contre l’exploitation sexuelle des adolescents, qui se déshabillent sous la pression ou contre rémunération via la fonction de diffusion en direct de TikTok. TikTok fonctionne ainsi comme un « club de strip-tease virtuel », selon l’agence gouvernementale de l’État américain de l’Utah qui protège les droits des consommateurs.
TikTok reçoit la moitié des transactions financières que les utilisateurs paient aux livestreamers. Le procureur général Brian Schwalb a déclaré la semaine dernière sur X que TikTok « gagne ainsi de l’argent grâce à l’exploitation sexuelle des enfants ».