L’intelligence artificielle (IA) ne peut être aussi bonne que les personnes qui la programment. En conséquence, elle a fait face à des allégations d’inexactitude et de préjugés raciaux dans le passé. Le parti pris de leurs programmeurs, qui sont souvent de jeunes hommes blancs de la Silicon Valley, semble préprogrammé. Par exemple, elle perçoit moins bien les Noirs sur les photographies parce qu’elle n’a été formée qu’avec des visages blancs, ou elle tire la conclusion logique du manque de diversité dans le travail que les personnes d’autres racines ethniques, ou les femmes, doivent être moins adaptées à cela. .
Cependant, une start-up torontoise fondée par une femme dans les secteurs de la mode et de la beauté se tourne vers l’IA pour créer un avenir plus juste. Les cofondatrices de Halt AI, Amanda Cosco et Roya Sedigh, qui ont une vaste expérience de la technologie et de la mode, avaient une chose en commun : elles testaient régulièrement les biais des algorithmes. Et donc Halt AI est devenu leur projet commun. FashionUnited a parlé à Cosco de Halt AI et de son tableau de bord Diversity Analytics, qui fournit des analyses approfondies sur la diversité de plus de 500 marques de mode, médias et entreprises de vente au détail.
“La plupart des histoires que vous entendez sur l’IA sont cyborg doom et un peu effrayantes, surtout en ce qui concerne la reconnaissance faciale”, déclare Cosco. “Mais si nous pouvons utiliser l’IA à bon escient pour améliorer la diversité, alors c’est une contre-mesure à ce récit trouble.”
Ils ont constaté que la plupart des marques mesurent leur diversité du point de vue des nouvelles recrues, mais négligent leur marketing et leur contenu. Ils ont donc décidé d’utiliser leur technologie pour donner aux marques un aperçu de ce à quoi ressemblent leurs médias sociaux et leur marketing de l’extérieur. Cela a suscité l’intérêt des marques. “Les marques ont demandé des informations contextuelles, comme la façon dont leurs efforts se comparent à d’autres marques”, explique Cosco. “S’ils obtiennent un 7 sur 10 pour l’ethnicité, est-ce vraiment bien ?”
Cela a motivé la création de référentiels permettant aux entreprises d’évaluer leurs performances non seulement par rapport à d’autres entreprises, mais également au sein de l’industrie en général. Six dimensions de la diversité – race, âge, sexe, morphologie, couleur de peau et handicap – sont mesurées pour chaque marque à travers son contenu visuel, entre autres critères.
La clientèle actuelle de Halt AI comprend des entreprises Fortune 500 après un préfinancement et une série de subventions du gouvernement canadien et d’investissements providentiels. Les fondateurs ont commencé par l’industrie de la mode et de la beauté car ce sont deux industries particulièrement importantes pour les femmes. Cosco déclare : “La technologie est prête à s’étendre à d’autres industries, il ne s’agit plus que de bâtir la réputation de la marque maintenant.”
Une poignée de services de révision de contenu existent déjà, comme le Geena Davis Institute, qui suit la représentation des genres dans les médias et le divertissement. Mais Cosco dit qu’ils sont chers, qu’ils ne sont pas évolutifs et qu’ils sont chargés d’erreurs humaines. “Ce qui rend Halt AI unique, c’est que nous avons un taux de précision de plus de 90 % et que nous pouvons être rapides, en gérant des industries entières en quelques semaines.”
La mode de luxe a encore trop peu de diversité
Les données de Halt AI ont rapidement confirmé que l’industrie de la mode de luxe, par exemple, est encore très blanche et très jeune, avec peu de représentation en termes de handicap, et que s’il existe une diversité en termes d’ethnie, la couleur de peau a toujours tendance à rester claire. «Après BLM et le meurtre de George Floyd, les entreprises ont fait beaucoup de promesses et le [POC-]La communauté a reçu beaucoup d’attention, mais la communauté des personnes handicapées est la prochaine à l’honneur », déclare Cosco. “Les marques de sport comme Nike réussissent très bien en termes de diversité, alors que les suspects habituels comme Chanel n’ont pas beaucoup de diversité.”
Mais arrêter l’IA ne consiste pas à pointer du doigt qui que ce soit. Les analyses quantitatives qu’ils effectuent fournissent aux entreprises des données brutes qu’elles peuvent utiliser pour prendre des décisions marketing. Cosco pense qu’il y a actuellement un manque de perspicacité, laissant les marques avec un gros angle mort.
En raison des NDA, Cosco est limité dans ce qu’il peut dire sur des marques spécifiques, mais il a observé certaines tendances générales. « Les marques sont généralement surprises par leur manque de représentation, notamment dans l’espace des personnes en situation de handicap. Nous essayons de créer des analyses pour eux afin qu’ils puissent suivre les améliorations au fil du temps pour mieux comprendre. Mais les aider à comprendre où ils se situent au sein de l’industrie, leur dire qu’ils se situent dans le 10e ou le 90e centile s’est avéré utile.”
Un programme pilote pour une sous-marque d’un grand groupe de cosmétiques a rencontré un tel succès qu’il est désormais déployé en interne pour toutes les marques afin que toutes les équipes marketing puissent s’y référer dans leur prise de décision. Bien que la technologie soit encore un outil B2B pour le moment, Cosco pense qu’elle évoluera vers un outil B2B/B2C à mesure que les consommateurs en récolteront les bénéfices.
“Nous voulons devenir la norme mondiale pour mesurer la diversité dans chaque industrie afin de pouvoir offrir un sceau d’approbation pour la diversité”, déclare Cosco. “Il n’y a rien de tel pour le moment.”
Cet article a déjà été publié sur FashionUnited.uk. Traduction et révision : Barbara Russ