Recevez des mises à jour gratuites sur l’intelligence artificielle
Nous vous enverrons un Résumé quotidien myFT e-mail récapitulant les dernières Intelligence artificielle nouvelles tous les matins.
Levez la main si vous avez récemment consulté un relevé de carte de crédit et repéré des frais pour un abonnement auquel vous aviez oublié de vous inscrire.
Tu n’es pas seul. Le nombre de nouveaux abonnements par consommateur américain a culminé l’année dernière et les annulations dépassent désormais les nouvelles inscriptions. Mais pour de nombreux services, sortir peut être beaucoup plus compliqué que d’entrer, comme je l’ai découvert lorsque j’ai essayé de mettre fin à mon paiement mensuel à l’abonnement aux livres enregistrés Audible d’Amazon.
Si j’annulais, prévenait l’application, je perdrais les trois crédits de livres que j’ai déjà payés mais que je n’ai pas utilisés. Au lieu de cela, il a vanté un bouton “pause” qui retarderait le prochain paiement de trois mois. Ne voulant pas mettre le feu à cet argent, j’ai consciencieusement obligé et mis en place un rappel de calendrier pour annuler en octobre.
La Financial Conduct Authority du Royaume-Uni s’inquiète des techniques de vente en ligne abusives depuis près d’une décennie. Il a d’abord mis en garde contre le fait d’obliger les clients à décocher des cases ou à «se retirer» pour éviter de payer une assurance complémentaire en 2015 et a étendu ses efforts à partir de là.
Désormais, les régulateurs ont intensifié leur guerre contre ce qu’ils appellent les «modèles sombres» – menu après menu d’options déroutantes visant à maximiser les dépenses et à dissuader les annulations. C’est nécessaire, car les entreprises utilisent l’exploration de données, des algorithmes et une intelligence artificielle sophistiquée pour attirer les clients et les garder agréables.
La Federal Trade Commission des États-Unis a poursuivi Amazon la semaine dernière, affirmant qu’elle avait “trompé et piégé les gens dans des abonnements récurrents” à son service Prime. Il a poursuivi cette semaine en obligeant Publishers Clearing House à rembourser 18,5 millions de dollars aux clients qui avaient été incités à effectuer des achats et à payer des frais lors de leur participation à son concours.
“Nous essayons vraiment d’envoyer un message indiquant que ces types de pratiques ont retenu notre attention et ne seront pas tolérés”, m’a dit un haut responsable de la FTC.
Dans l’UE, la pression de Bruxelles a conduit Amazon à commencer à autoriser les clients à mettre fin à leur abonnement Prime en seulement deux clics à l’aide d’un bouton “annuler” clairement étiqueté. Il a également modifié ses politiques britanniques à cette époque, mais n’a modifié les annulations américaines que cette année, avant le procès de la FTC. L’entreprise, qui envisage de lutter contre l’affaire, insiste sur le fait que ses procédures d’annulation sont “claires et simples”. . . intentionnellement”.
Alors même que les régulateurs sévissent contre les processus de sites Web à motif sombre, les entreprises se tournent vers l’intelligence artificielle pour rendre leurs méthodes de vente plus sophistiquées et potentiellement exploitables.
Les entreprises seront bientôt en mesure, si elles ne le peuvent déjà, de prédire non seulement ce qu’il faut offrir, mais aussi à quelle heure de la journée un achat est le plus probable. La technologie de détection des émotions en temps réel pourrait être utilisée pour presser des offres à des moments vulnérables.
Tout comme la saisie automatique prédictive insère des erreurs dans les textes, une IA générative sophistiquée pourrait rechercher et pré-remplir les informations d’achat de manière à profiter aux vendeurs plutôt qu’à offrir aux acheteurs une gamme complète de choix.
Imaginez dire à l’IA de rechercher des informations sur les robots laveurs. S’il revenait avec la page d’inscription pour un abonnement d’un an à un site grand public avec les détails renseignés, certaines personnes cliqueraient simplement sur oui. Ils pourraient alors manquer un essai gratuit.
“Plus l’IA devient polyvalente, plus nous avons besoin de réglementation. . . pour s’assurer qu’il ne nous manipule pas et ne nous exploite pas », déclare Matthias Holweg de la Saïd Business School d’Oxford.
Les régulateurs doivent établir dès maintenant des principes et des procédures qui faciliteront la répression des pratiques de vente abusives à mesure qu’elles apparaissent. Au moins trois approches différentes ont du mérite.
La nouvelle obligation de consommation de la FCA, qui entrera en vigueur le mois prochain, met spécifiquement en garde les entreprises contre toute tentative «d’exploiter les préjugés comportementaux des consommateurs. . . créer une demande ».
Le Parlement européen travaille sur une nouvelle législation pour limiter l’utilisation des technologies d’intelligence artificielle telles que la catégorisation biométrique, la reconnaissance des émotions et les systèmes génératifs. Jusqu’à présent, l’accent a surtout été mis sur l’emploi et l’application de la loi. Mais les principes s’étendent aux ventes.
La FTC exige que les entreprises qui règlent les cas de tromperie conservent des enregistrements des recherches psychologiques et comportementales qu’elles mènent, y compris les tests A/B. Cela devrait être élargi. Alors que de plus en plus d’entreprises utilisent l’IA pour stimuler les ventes, elles doivent s’attendre à faire l’objet d’un examen minutieux.
C’est une chose de tenter les clients avec des offres personnalisées. C’en est une autre d’exploiter leurs faiblesses pour les faire payer des services dont ils n’ont pas besoin.
Suivez Brooke Masters avec monFT et sur Twitter