Jumbo quiere utilizar la inteligencia artificial en su lucha contra el hurto. Esta puede ser una solución fantástica para la cadena de supermercados, pero los críticos temen un paso más en el campo de la vigilancia masiva.
En Jumbo se roban cada año productos por valor de más de 100 millones de euros. Éste es un problema persistente para la cadena de supermercados. Una de las formas en que Jumbo quiere combatir esto es con la IA.
«Habrá más cámaras de vigilancia en todas las tiendas y habrá más controles aleatorios y más inteligentes en las cajas de autopago», anunció recientemente Jumbo.
En un comunicado de prensa se escribe que la tecnología de inteligencia artificial hace posible el muestreo específico en el autopago. Normalmente, una muestra de este tipo, que comprueba si el cliente ha escaneado correctamente todos los alimentos de la cesta, es más o menos aleatoria.
Jumbo espera mucho de una IA que reconozca el «comportamiento desviado» de los clientes en la tienda. Ya se ha iniciado una prueba con esta tecnología en varias tiendas. Eso dura unos meses. No se sabe exactamente cómo funciona la IA.
La portavoz de Jumbo, Eunice Koekkoek, sólo quiere decir que la tecnología «puede identificar desviaciones en el comportamiento y los patrones de compra». Sobre esta base, un empleado puede optar por realizar una muestra específica.
¿Cómo funcionan exactamente los sistemas de control de IA?
El experto en comercio minorista Eelco Hos lo explicó a principios de este año. Brabante Dagblad cómo podrían verse estos tipos de sistemas de control de IA. Las cámaras podrían comprobar lo que el cliente compra y escanea. Si un producto no se escanea, el dispositivo de autoescaneo le pide al cliente que lo haga.
Otra posibilidad es que el ordenador avise a un empleado si alguien no paga todo. Luego, una cámara en la caja toma una fotografía del carrito de compras en la caja.
«Es importante señalar que esto se hace de forma anónima», dijo Hos. «Por ejemplo, los rostros de los clientes no se fotografían o aparecerán borrosos». Según él, las imágenes no se conservan, sino que sólo se utilizan como señal.
La IA enfáticamente no mira las características individuales
No se sabe si Jumbo también lo hace de esta manera. «Para determinar las desviaciones no son relevantes las características individuales de los clientes», afirma el portavoz de Jumbo. «Los algoritmos del software de IA no tienen en cuenta esto. Seguimos monitoreándolo cuidadosamente. Todo lo que hacemos en el campo de la IA, por supuesto, cumple con las leyes y regulaciones aplicables, como en el campo de la protección de la privacidad».
Aún se desconoce si Jumbo utilizará la inteligencia artificial a gran escala para combatir el hurto. La cadena de supermercados está probando por primera vez la tecnología durante tres meses. Si la prueba tiene éxito, Jumbo introducirá las medidas a nivel nacional.
Por cierto, Jumbo no es la única tienda que experimenta con IA. La empresa francesa Veesion ofrece una caja inteligente para cámaras que puede detectar que alguien se mete algo en el bolsillo.
Veesion anunció el año pasado que la tecnología la utilizan principalmente empresarios independientes. En Holanda también. «Todos ellos son franquiciados de propiedad independiente con los que trabajamos», dijo la compañía. «El hurto es un problema inmediato para los propietarios de esas tiendas».
La Autoridad Holandesa de Protección de Datos, organismo de control de la privacidad, aún no puede decir nada sobre la nueva prueba con IA. «Sólo podremos emitir un juicio al respecto una vez que lo hayamos investigado», afirma la portavoz Elizabeth Palandeng. «Y no podemos decir de antemano si lo haremos».
‘Se ha demostrado una y otra vez que funciona mal’
Hay preocupaciones sobre el uso de la tecnología. Por ejemplo, la asesora política Nadia Benaissa de la organización de privacidad Bits of Freedom calificó el juicio de desproporcionado. «Jumbo decide recortar personal en las tiendas e instalar todo tipo de cajas de autopago. Entonces aumentan los hurtos y esto debe solucionarse con tecnología de vigilancia».
Según Benaissa, los riesgos para los ciudadanos son grandes. No sólo en el caso de esta prueba, sino también cuando la tecnología es utilizada por otras tiendas. «Basta con dar un paso en falso y se le puede clasificar erróneamente como sospechoso. Una y otra vez se ha demostrado que este tipo de tecnología de elaboración de perfiles funciona mal y está llena de prejuicios. Mientras tanto, la privacidad de los ciudadanos está siendo cada vez más restringido con este tipo de experimentos.»
La eurodiputada Kim van Sparrentak, que participa estrechamente en el desarrollo de la ley europea sobre IA, también expresa su preocupación. «Por supuesto, es absurdo que las tiendas empiecen a controlar su comportamiento y a seguirle a través de la tienda. Pronto nos enfrentaremos a la vigilancia diaria de la IA, simplemente porque los supermercados quieren ahorrar dinero».
También se pregunta hasta qué punto determinados comportamientos se consideran desviados. Porque, ¿qué pasa si permaneces mucho tiempo en una tienda y pagas sólo por unos pocos productos? ¿Eso es sospechoso? «Esto puede llevar a resultados extraños. ¿Alguien que tiene dificultades para caminar y camina despacio pronto será sistemáticamente un estafador? ¿O pronto lo controlarán minuciosamente después de la caja registradora cada vez que tenga prisa?»