Snapchat utilise les enfants comme « cobayes », une partie de la Chambre des représentants veut interdire le chatbot controversé

Le chatbot audacieux et adorable My AI est alimenté par ChatGPT, un algorithme de chat OpenAI qui peut produire des textes lisibles basés sur l’intelligence artificielle (IA). Le bot fournit des réponses détaillées aux questions sociales et personnelles. Il se présente comme votre nouveau meilleur ami virtuel et vous complimente lorsque vous envoyez une photo de vous par exemple. Vous pouvez également modifier le nom et la photo du chatbot à votre guise. Il n’est pas possible de supprimer le chatbot de votre flux à moins que vous ne payiez.

Tout cela, selon les experts, va beaucoup trop loin. Les enfants particulièrement vulnérables, qui sont plus sensibles à l’influence ou cherchent refuge dans un tel bot parce qu’ils sont seuls, ne devraient pas « s’y perdre ». « Pourquoi utilisons-nous même des bots pour discuter avec des enfants ? Jusqu’où peut-on s’éloigner du contact humain ? se demande Arda Gerkens.

Elle est directrice-directrice d’Expertise Bureau Online Child Abuse (EOKM), une fondation dédiée à la sécurité en ligne des enfants. L’intelligence artificielle compromet cette sécurité, dit Gerkens. « Cependant, plus il devient difficile pour les enfants de distinguer le faux du vrai. Et ça marche aussi dans l’autre sens. Bientôt, les enfants penseront qu’ils parlent à un bot, mais il s’avérera être une vraie personne.

« Un chatbot n’est pas empathique », ajoute Justine Pardoen du Kenniscentrum Bureau Jeugd & Media. « Il peut avoir des comportements similaires à cela, mais le robot n’a pas de conscience. C’est pourquoi il est extrêmement important que vous soyez très prudent avec les enfants.

Le texte continue sous ce tweet

Au départ, le chatbot souhaitait également rencontrer les utilisateurs « en vrai » sur demande, découvert ce site. Ce n’est désormais plus possible après de vives critiques, mais une grande partie de la Chambre des représentants reste sceptique quant aux effets de My AI. « Je pense qu’il ne faut pas être naïf, dit René Peters (CDA). « Les entreprises comme Snapchat n’ont pas nécessairement à cœur l’intérêt supérieur des enfants. Ils veulent gagner de l’argent. La réglementation est donc importante. Et s’ils ne le font pas eux-mêmes, le gouvernement devra le faire. »

Selon les experts en technologie, la réglementation n’est plus possible, car ChatGPT est là et la technologie continue de se perfectionner. C’est pourquoi d’autres partis réclament une interdiction ou une limite d’âge. Snapchat lui-même a désormais une limite d’âge de 13 ans. Et jusqu’à l’âge de 16 ans, les adolescents doivent avoir une autorisation parentale. « Il y a un grand risque que des enfants et adolescents vulnérables partagent leurs secrets avec Snapchat », explique Nico Drost (ChristenUnie). « Cette société n’a aucun droit sur ces données et certainement pas de les utiliser à des fins commerciales. »

Selon Drost, Snapchat violerait la vie privée des enfants. Bureau Jeugd & Media Knowledge Center le confirme. « Il y a vraiment suffisamment de raisons pour interdire le bot. Il y a des raisons pour cela dans les droits de l’enfant.

Pouvez-vous écrire et illustrer un livre complet pour enfants en une heure avec l’intelligence artificielle ? (vidéo):

En raison de l’évolution rapide, la sécurité en ligne des enfants est un thème international. L’UE veut mieux réglementer cela par une loi. Douze membres du Parlement européen ne veulent pas attendre aussi longtemps et ont lancé il y a deux semaines un appel à tous les dirigeants mondiaux. « Avec l’évolution rapide d’une IA puissante, nous voyons la nécessité d’une action politique », ont-ils écrit. Cet automne, le Parlement européen votera sur la manière de procéder avec la sécurité en ligne des enfants.

D’ici là, les plateformes doivent prendre leurs propres responsabilités, explique Corinne Dettmeijer, directrice du conseil de surveillance de Child Helpline International. Dettmeijer soutient une interdiction de My AI. « Ce qui est très inquiétant, c’est que des enfants ont été utilisés comme cobayes lors de son introduction. » Snapchat admet que My AI est « un chatbot expérimental ». Et : « Comme tous les autres chatbots IA, My AI apprend constamment et donne parfois une réponse incorrecte. »

Le fait que les enfants soient toujours autorisés à parler au bot pendant cette phase de test provoque une gêne. Egalement avec Michiel Steltman, directeur de la Netherlands Digital Infrastructure Foundation. « Le désir de protéger les enfants contre ce genre de chats et d’IA est tout à fait justifié, mais en même temps, c’est aussi la serpillière avec le robinet ouvert. Car qu’allez-vous interdire d’autre ? Les chatbots peuvent être trouvés partout et nulle part, et quels critères utilisez-vous pour une interdiction ? Je pense que le débat devrait d’abord porter sur ces critères et leur faisabilité. Par exemple, vous pouvez déjà vous concentrer sur la publicité trompeuse avec la législation existante, et sur profilage des mineurs (collecte de données pour construire des profils, ndlr).

Les Pays-Bas ne vont pas encore bloquer ChatGPT. L’Autorité néerlandaise de protection des données, l’autorité de contrôle de la vie privée, dit suivre la situation de près. De nombreux utilisateurs d’applications partagent parfois plus d’informations personnelles qu’ils ne le pensent ou ne le souhaiteraient. « C’est pourquoi nous avertissons toujours d’être prudent », avait précédemment déclaré un porte-parole à l’ANP. « Par exemple, si des applications ou des services semblent gratuits, mais que vous les « payez » en fait en acceptant dans les termes et conditions de partager toutes sortes de données personnelles. Parfois même des données en dehors de l’application, telles que votre comportement sur Internet, vos données de localisation ou vos contacts.