La Chine a r\u00e9cemment pris des mesures pour r\u00e9guler un type sp\u00e9cifique d’intelligence artificielle (IA) : celle qui est con\u00e7ue pour ressembler \u00e0 une personne<\/strong>. Des entreprises comme Doubao (ByteDance) et Qwen (Alibaba) ont annonc\u00e9 la d\u00e9sactivation de leurs agents d’IA personnalis\u00e9s, anticipant l’entr\u00e9e en vigueur de r\u00e9glementations strictes. Cette d\u00e9cision est le reflet d’une pr\u00e9occupation plus profonde concernant l’impact \u00e9motionnel de ces technologies sur les utilisateurs.<\/p>\n Ces entreprises ont inform\u00e9 leurs utilisateurs que leurs chatbots personnalis\u00e9s cesseront de fonctionner le 15 juillet<\/strong> pour Doubao, et le 10 juillet<\/strong> pour Qwen. Les pr\u00e9occupations sont principalement li\u00e9es aux nouvelle r\u00e8glementation<\/strong> mise en place par le gouvernement chinois, qui concerne sp\u00e9cifiquement les services d’interaction anthropomorphique. Ces mesures visent \u00e0 manager les risques d’addiction et d’interactions \u00e9motionnelles inappropri\u00e9es.<\/p>\n La r\u00e9glementation chinoise ne cible pas simplement la puissance de ces IA g\u00e9n\u00e9ratives. Elle se concentre plut\u00f4t sur les syst\u00e8mes qui simulent des traits de personnalit\u00e9 humaine<\/strong> pour \u00e9tablir des interactions \u00e9motionnelles durables. Ce qui pose probl\u00e8me, ce n’est pas l’intelligence en elle-m\u00eame, mais la capacit\u00e9<\/strong> de ces syst\u00e8mes \u00e0 reproduire le comportement humain, incitant ainsi \u00e0 bousculer les dynamiques personnelles.<\/p>\n Les fonctionnalit\u00e9s concern\u00e9es, celles qui permettent de transformer un chatbot classique en ami ou compagnon, sont d\u00e9sormais proscrites. Ces transformations rendent le chatbot plus personnel, mais cela soul\u00e8ve des questions quant \u00e0 la nature des relations que les utilisateurs d\u00e9veloppent avec ces IAs. Elles deviennent plus que de simples outils ; elles peuvent provoquer des liens \u00e9motionnels pouvant mener \u00e0 des d\u00e9pendances.<\/p>\n La r\u00e9glementation ne se limite pas \u00e0 prohiber certaines fonctionnalit\u00e9s. Elle vise \u00e0 veiller sur les interactions qui peuvent mener \u00e0 une d\u00e9pendance \u00e9motionnelle<\/strong>. Il est interdit de favoriser des connexions \u00e9motionnelles pouvant entra\u00eener des comportements irrationnels. L’id\u00e9e est de prot\u00e9ger la sant\u00e9 mentale des utilisateurs et de pr\u00e9server leurs relations interpersonnelles.<\/p>\n Selon la nouvelle loi, ces IA doivent intervenir lorsqu’elles d\u00e9tectent des \u00e9motions extr\u00eames chez les utilisateurs. Si un utilisateur montre un signe de d\u00e9pendance ou un risque pour sa sant\u00e9, l’IA doit recommander une consultation ou activer des alertes de s\u00e9curit\u00e9. Ce m\u00e9canisme de bien-\u00eatre num\u00e9rique<\/strong> ressemble \u00e0 ceux d\u00e9j\u00e0 en place pour les applications de r\u00e9seaux sociaux.<\/p>\n Les r\u00e9glementations mettent un accent particulier sur les jeunes utilisateurs<\/strong> et les personnes \u00e2g\u00e9es, deux groupes particuli\u00e8rement sensibles \u00e0 ces interactions. Les chatbots ne pourront plus offrir des relations d’intimit\u00e9 virtuelle, tels que des amis ou partenaires simul\u00e9s, et cela doit inclure un consentement des parents pour les mineurs.<\/p>\n Cette r\u00e9glementation repr\u00e9sente un tournant dans la gestion des IA personnalis\u00e9es, car elle ne cherche pas seulement \u00e0 limiter leur capacit\u00e9s, mais \u00e0 d\u00e9finir comment elles peuvent interagir avec les utilisateurs sur le plan personnel. La discussion sur ces questions est amen\u00e9e \u00e0 s’\u00e9tendre \u00e0 d’autres r\u00e9gions comme l’Europe et les \u00c9tats-Unis.<\/p>\n Cette nouvelle approche chinoise nous rappelle l’importance de r\u00e9fl\u00e9chir \u00e0 l’impact \u00e9motionnel des technologies. La fronti\u00e8re entre assistance et amiti\u00e9 avec l’IA est d\u00e9sormais plus floue que jamais. Reguler efficacement ces syst\u00e8mes pourrait \u00eatre essentiel pour maintenir des relations saines \u00e0 l’\u00e8re num\u00e9rique.<\/p>\nL’arr\u00eat imminent des IA anthropomorphiques<\/h3>\n
Les chatbots : outils de travail ou compagnons ?<\/h2>\n
Les dangers des interactions \u00e9motionnelles<\/h3>\n
Vers une personnalisation limit\u00e9e<\/h3>\n
La d\u00e9pendance \u00e9motionnelle : un risque \u00e0 surveiller<\/h2>\n
Pr\u00e9venir l’addiction<\/h3>\n
L’IA doit se r\u00e9guler<\/h3>\n
Protection des personnes vuln\u00e9rables<\/h2>\n
Attention particuli\u00e8re aux jeunes et aux personnes \u00e2g\u00e9es<\/h3>\n
Vers une meilleure compr\u00e9hension des relations<\/h2>\n
L’avenir des relations homme-machine<\/h3>\n
Conclusion<\/h3>\n