Jumbo veut utiliser l’intelligence artificielle dans sa lutte contre le vol à l’étalage. Cela pourrait constituer une solution fantastique pour la chaîne de supermarchés, mais les critiques craignent une nouvelle étape dans le domaine de la surveillance de masse.
Plus de 100 millions d’euros de produits sont volés chaque année chez Jumbo. C’est un problème persistant pour la chaîne de supermarchés. L’une des façons dont Jumbo veut lutter contre ce problème est l’IA.
« Il y aura davantage de caméras de surveillance dans tous les magasins et des contrôles aléatoires plus nombreux et plus intelligents aux caisses automatiques », a récemment annoncé Jumbo.
Dans un communiqué de presse, il est écrit que la technologie de l’IA permet un échantillonnage ciblé aux caisses automatiques. Normalement, un tel échantillon, qui vérifie si le client a correctement scanné tous les produits du panier, est plus ou moins aléatoire.
Jumbo attend beaucoup de l’IA qui reconnaît les « comportements déviants » des clients dans le magasin. Un essai de cette technologie a déjà commencé dans différents magasins. Cela dure quelques mois. On ne sait pas exactement comment fonctionne l’IA.
La porte-parole de Jumbo, Eunice Koekkoek, veut seulement dire que la technologie « peut identifier les écarts dans le comportement et les habitudes d’achat ». Sur cette base, un salarié peut choisir de réaliser un prélèvement ciblé.
Comment fonctionnent exactement les systèmes de contrôle de l’IA ?
L’expert du commerce de détail Eelco Hos l’a expliqué au début de cette année Jour du Brabant à quoi pourraient ressembler ces types de systèmes de contrôle d’IA. Les caméras pourraient vérifier ce que le client achète et scanne. Si un produit n’est pas scanné, le dispositif d’auto-analyse demande au client de le faire.
Une autre possibilité est qu’un employé soit averti par l’ordinateur si quelqu’un ne paie pas tout. Un appareil photo en caisse prend ensuite une photo du panier à la caisse.
« Il est important de noter que cela se fait de manière anonyme », a déclaré Hos. « Par exemple, les visages des clients ne sont pas photographiés ou ils seront flous. » Selon lui, les images ne sont pas conservées, mais servent uniquement à signaler.
L’IA ne prend absolument pas en compte les caractéristiques individuelles
On ne sait pas si Jumbo procède également de cette façon. « Pour déterminer les écarts, les caractéristiques individuelles des clients ne sont pas pertinentes », explique le porte-parole de Jumbo. « Les algorithmes des logiciels d’IA ne tiennent absolument pas compte de cela. Nous continuons à surveiller cela de près. Tout ce que nous faisons dans le domaine de l’IA est naturellement conforme aux lois et réglementations applicables, par exemple dans le domaine de la protection de la vie privée. »
On ne sait toujours pas si Jumbo utilisera l’intelligence artificielle à grande échelle pour lutter contre le vol à l’étalage. La chaîne de supermarchés teste d’abord cette technologie pendant trois mois. Si l’essai s’avère concluant, Jumbo introduira les mesures au niveau national.
Soit dit en passant, Jumbo n’est pas le seul magasin à expérimenter l’IA. La société française Veesion propose un boîtier intelligent pour caméras capable de détecter que quelqu’un met quelque chose dans sa poche.
Veesion a annoncé l’année dernière que ce sont principalement des entrepreneurs indépendants qui utilisent cette technologie. Aux Pays-Bas aussi. « Ce sont tous des franchisés indépendants avec lesquels nous travaillons », a déclaré la société. « Le vol à l’étalage constitue un problème immédiat pour les propriétaires de ces magasins. »
L’Autorité néerlandaise de protection des données, organisme de surveillance de la vie privée, ne peut encore rien dire sur le nouvel essai avec l’IA. « Nous ne pouvons porter un jugement à ce sujet qu’après avoir enquêté », a déclaré la porte-parole Elizabeth Palandeng. « Et nous ne pouvons pas dire à l’avance si nous le ferons. »
« Il a été prouvé à maintes reprises que cela fonctionnait mal »
Il existe des inquiétudes quant à l’utilisation de la technologie. Par exemple, la conseillère politique Nadia Benaissa de l’organisation de protection de la vie privée Bits of Freedom a qualifié le procès de disproportionné. « Jumbo choisit de réduire le personnel des magasins et d’installer toutes sortes de caisses automatiques. Ensuite, les vols à l’étalage se multiplient et cela doit être résolu grâce à la technologie de surveillance. »
Selon Benaissa, les risques pour les citoyens sont grands. Non seulement dans le cas de ce test, mais aussi lorsque la technologie est utilisée par d’autres magasins. « Il suffit d’un faux pas pour être classé à tort comme suspect. Il a été démontré à maintes reprises que ce type de technologie de profilage fonctionne mal et est plein de préjugés. Entre-temps, la vie privée des citoyens est de plus en plus menacée. limité à ce type d’expériences. »
L’eurodéputée Kim van Sparrentak, étroitement impliquée dans l’élaboration de la loi européenne sur l’IA, exprime également ses inquiétudes. « Il est bien entendu absurde que les magasins commencent à surveiller votre comportement et à vous suivre dans le magasin. Nous serons bientôt confrontés quotidiennement à la surveillance par l’IA, simplement parce que les supermarchés veulent économiser de l’argent. »
Elle se demande aussi dans quelle mesure certains comportements sont perçus comme déviants. Car que se passe-t-il si vous restez longtemps dans un magasin et ne payez que quelques produits ? Est-ce suspect ? « Cela peut conduire à des résultats bizarres. Une personne qui a des difficultés à marcher et qui marche lentement sera-t-elle bientôt systématiquement un fraudeur ? Ou sera-t-elle bientôt soumise à un contrôle approfondi après la caisse à chaque fois que vous êtes pressé ? »