L<\/span>l’intelligence artificielle est-elle l’homme ? La question n’est pas vide.<\/strong> Et la r\u00e9ponse est oui, l’IA n’est pas aussi neutre qu’on pourrait s’y attendre, et il est beaucoup plus probable qu’il s’agisse d’un homme que d’une femme. Ce n’est pas seulement parce que les informaticiens et les programmeurs qui leur donnent vie sont – partout sur la plan\u00e8te – en tr\u00e8s grande majorit\u00e9 des hommes.<\/strong><\/p>\n Une image du film Coded Bias de Joy Buolamwini sur les risques de l’utilisation non r\u00e9glement\u00e9e de l’intelligence artificielle qui, dans son cas, ne \u00ab reconnaissait \u00bb pas le visage d’une femme noire. Sur cette photo, la reconnaissance faciale permet \u00e0 un locataire d’acc\u00e9der \u00e0 son logement. Cependant, diverses donn\u00e9es sensibles sont associ\u00e9es aux donn\u00e9es anthropom\u00e9triques (comme – avant-derni\u00e8re ligne – le nombre de retards de paiement des loyers).<\/p>\n<\/div>\n L’intelligence artificielle est masculine car elle consiste, par essence, \u00e0 redessiner la plan\u00e8te \u00e0 partir du mod\u00e8le \u00e9conomique, social, symbolique qui domine<\/strong>celui qui, en fait, continue avec un automatisme ordonn\u00e9 \u00e0 favoriser les m\u00e2les, au d\u00e9triment de l’autre moiti\u00e9. L’Unesco, alarm\u00e9e par la d\u00e9rive discriminatoire sous-jacente <\/strong>\u00e0 cette r\u00e9volution massive et perturbatrice, a r\u00e9uni les 193 pays membres autour de la table pour comprendre comment r\u00e9agir<\/strong>: \u00ab Les algorithmes et les syst\u00e8mes d’intelligence artificielle ont le pouvoir de propager et renforcer les st\u00e9r\u00e9otypes et les pr\u00e9jug\u00e9s sexistes<\/strong>, qui risquent de marginaliser les femmes \u00e0 l’\u00e9chelle mondiale. Compte tenu de la pr\u00e9sence croissante de l’intelligence artificielle dans nos soci\u00e9t\u00e9s, cela pourrait mettre les femmes en position de retard dans les sph\u00e8res \u00e9conomiques, politiques et sociales \u00bb, \u00e9crit l’Organisation des Nations Unies pour l’\u00e9ducation, la science et la culture dans son Rapport 2020 Intelligence artificielle et \u00e9galit\u00e9 des genres<\/em><\/a>.<\/p>\n\n Preuve de l’\u00e9loignement des algorithmes neutres se cristalliser si les nombreux \u00e9carts hommes-femmes n’augmentent pas<\/strong> jusqu’\u00e0 les rendre irr\u00e9cup\u00e9rables sont d\u00e9sormais nombreuses et pressantes. Parmi les cas qui ont fait \u00e9cole il y a celui de La carte de cr\u00e9dit Apple de Goldman Sachs, accus\u00e9e \u00e0 ses d\u00e9buts de discriminer les femmes parce que ses algorithmes fixeraient des plafonds de d\u00e9penses inf\u00e9rieurs pour les femmes<\/strong>, En tant que tel. Tweets c\u00e9l\u00e8bres d’entrepreneurs technologiques c\u00e9l\u00e8bres – comme David Heinemeier Hansson<\/a>le programmeur du tr\u00e8s c\u00e9l\u00e8bre framework de d\u00e9veloppement web Rubis<\/em> – qui se demandaient, \u00e9tonn\u00e9s, comment il \u00e9tait possible que leurs \u00e9pouses, avec lesquelles ils vivaient en communion de biens ou de comptes bancaires partag\u00e9s, soient jug\u00e9es moins fiables qu’eux et m\u00e9ritaient donc des plafonds de d\u00e9penses nettement inf\u00e9rieurs. L’algorithme s’est av\u00e9r\u00e9 non moins sexiste qu’Amazon<\/strong> il s’est d\u00e9velopp\u00e9 pour identifier des candidats potentiels en surfant sur le web et a abandonn\u00e9 aussit\u00f4t d\u00e8s qu’il s’est rendu compte qu’il marginalisait les femmes pour les emplois techniques comme, par exemple, le d\u00e9veloppeur de logiciels.<\/p>\n “Le fait est que l’intelligence artificielle tombe involontairement dans les pr\u00e9jug\u00e9s et la discrimination exactement comme le fait l’esprit humain parce qu’en fin de compte, l’algorithme est un artefact humain<\/strong>” explique Alessandra Sala<\/strong>directeur de l’intelligence artificielle et de la science des donn\u00e9es de la plateforme am\u00e9ricaine Shutterstock et pr\u00e9sident mondial de Les femmes en IA<\/em><\/a>, association \u00e0 but non lucratif qui agit dans 120 pays en faveur d’une Intelligence Artificielle juste, \u00e9thique et inclusive<\/strong>.<\/p>\n Nous demandons \u00e0 Alessandra Sala de nous expliquer facilement le m\u00e9canisme par lequel l’algorithme prend une d\u00e9cision injuste est compr\u00e9hensible<\/strong>. \u00abPrenons un programme d’intelligence artificielle d\u00e9velopp\u00e9 dans le domaine informatique d’une grande entreprise pour effectuer, lors de l’ouverture de nouveaux postes, le premier \u00e9cr\u00e9mage grossier parmi des centaines de programmes disponibles. Disons que le poste vacant est dans le domaine de la technologie. Pour que l’algorithme identifie le candidat ou le candidat avec les meilleures comp\u00e9tences et capacit\u00e9s absolues, le sp\u00e9cialiste qui le programme doit d’abord identifier les caract\u00e9ristiques qui peuvent \u00eatre associ\u00e9es au succ\u00e8s. Tr\u00e8s probablement, le professionnel reconna\u00eetra d’abord, dans le large vivier de salari\u00e9s actuels et pass\u00e9s du groupe, ceux qui ont construit une carri\u00e8re valable au fil du temps, puis \u00e0 partir de chacun d’eux il extrapolera des donn\u00e9es telles que le sexe, le type de haute l’\u00e9cole, la facult\u00e9 et l’universit\u00e9 fr\u00e9quent\u00e9es plut\u00f4t que le grade du dipl\u00f4me ou, peut-\u00eatre, la zone g\u00e9ographique d’origine et ainsi de suite \u00bb explique Sala. “Le programmeur, en substance, va construire des corr\u00e9lations entre le succ\u00e8s et une s\u00e9rie de donn\u00e9es historiques qu’il a choisi de privil\u00e9gier et va les enseigner \u00e0 l’intelligence artificielle<\/strong>. C’est le point: si, comme cela arrive souvent, les femmes qui r\u00e9ussissent dans le secteur de la technologie sont et ont toujours \u00e9t\u00e9 bien moins nombreuses que les hommes<\/strong>l’algorithme finira sous-estimer la relation entre les femmes et le succ\u00e8s<\/strong> et, avec cela, favoriser les candidatures masculines \u00bb, souligne le dirigeant.<\/p>\n “Il en va de m\u00eame si le programmeur \u00e9tablit une corr\u00e9lation entre le succ\u00e8s et le fait d’\u00eatre issu d’universit\u00e9s d’excellence, car traditionnellement les meilleurs en sont issus.<\/strong>: le r\u00e9sultat est que les processus de s\u00e9lection continueront d’exclure des origines diff\u00e9rentes, avec de graves dommages pour de nombreuses personnes parfaitement form\u00e9es, mais aussi pour les entreprises elles-m\u00eames, qui risquent de perdre des talents potentiels. Si mon CV avait \u00e9t\u00e9 s\u00e9lectionn\u00e9 avec un processus d’IA, je n’existerais probablement pas \u00e0 cet endroit maintenant<\/strong>\u00bb raconte Alessandra Sala.<\/p>\n Elle dit qu’en tant qu’\u00e9tudiante universitaire – tr\u00e8s jeune, femme, d’ailleurs venant du Sud et d’une universit\u00e9 pas parmi les plus connues<\/strong> – a eu un entretien avec un professeur venu en Italie de l’Universit\u00e9 de Californie \u00e0 Santa Barbara. “M\u00eame mes publications \u00e9taient inf\u00e9rieures \u00e0 celles vant\u00e9es par d’autres candidats, mais le professeur ne s’est pas arr\u00eat\u00e9 aux donn\u00e9es rapport\u00e9es dans le curriculum vitae : au cours de ce face \u00e0 face, vif et articul\u00e9, il a \u00e9videmment entrevu un potentiel, entrevu un avenir, puis m’a appel\u00e9 aux \u00c9tats-Unis<\/strong>. \u00c7a a chang\u00e9 ma vie \u00bb, se souvient-il.<\/p>\n “Le vrai point, celui qui br\u00fble, c’est que les femmes sont toujours sous-repr\u00e9sent\u00e9es dans la masse monstrueuse de donn\u00e9es qui alimente l’intelligence artificielle<\/strong>: l’apprentissage automatique – c’est-\u00e0-dire le sous-ensemble de l’intelligence artificielle qui apprend automatiquement \u00e0 partir des donn\u00e9es qu’il re\u00e7oit – perp\u00e9tue syst\u00e9matiquement cette in\u00e9galit\u00e9. De plus, en plus d’\u00eatre sous-repr\u00e9sent\u00e9s, ils sont fr\u00e9quemment associ\u00e9s \u00e0 des concepts b\u00e2tis sur des pr\u00e9jug\u00e9s \u00bb, conclut le pr\u00e9sident de Les femmes en IA<\/em>. Juste pour donner un exemple, les algorithmes des applications texte-image sont capables de cr\u00e9er des images belles et parfaites de n’importe quel sujet \u00e0 partir de z\u00e9ro, sur la base d’une simple description textuelle de ce que vous voulez repr\u00e9senter. L’algorithme, en effet, a \u00e9t\u00e9 form\u00e9 en lui faisant assimiler une \u00e9norme quantit\u00e9 d’images tir\u00e9es du Web<\/strong> avec les l\u00e9gendes relatives qui les d\u00e9crivent et lui apprenant \u00e0 reconna\u00eetre le lien entre la figure et la description. C’est dommage que, si on vous demande de produire des images associ\u00e9es au terme avocat ou PDG, un syst\u00e8me qui n’est pas form\u00e9 pour surmonter les pr\u00e9jug\u00e9s sexistes traitera probablement des personnages masculins<\/strong>mais si la demande vise \u00e0 repr\u00e9senter le travail de l’infirmi\u00e8re ou d’une assistante personnelle, les personnes repr\u00e9sent\u00e9es seront tr\u00e8s majoritairement des femmes, confirmant la vision st\u00e9r\u00e9otyp\u00e9e et encore r\u00e9pandue des m\u00e9tiers d’hommes et des m\u00e9tiers de femmes, les premiers de plus en plus qualifi\u00e9s et r\u00e9mun\u00e9rateurs dernier.<\/p>\n Bref, si on produit des donn\u00e9es conditionn\u00e9es par le sexisme, la discrimination, les in\u00e9galit\u00e9s existantes, les algorithmes apprennent le sexisme et les in\u00e9galit\u00e9s<\/strong> et, gr\u00e2ce \u00e0 l’apprentissage automatique, ils les automatisent jusqu’\u00e0 ce qu’ils deviennent une r\u00e8gle<\/strong>. “Le risque est que ces dynamiques, qui ont un pouvoir de d\u00e9cision sur la vie des gens, s’automatisent et fassent partie de l’intelligence artificielle et deviennent donc perp\u00e9tuelles et, avec le temps, si opaques et puissantes qu’il est difficile de les contester. M\u00eame les lois anti-discrimination ont du mal \u00e0 les identifier et \u00e0 les frapper \u00bb, dit-il Ivana Bartoletti<\/strong>Visiting Policy Fellow \u00e0 l’Universit\u00e9 d’Oxford et auteur de Une r\u00e9volution artificielle\u00a0: sur le pouvoir, la politique et l’IA<\/em><\/a>.<\/p>\n Tout cela se passe dans l’indiff\u00e9rence sociale g\u00e9n\u00e9ralis\u00e9e : les algorithmes et leurs syst\u00e8mes de prise de d\u00e9cision automatis\u00e9s impr\u00e8gnent d\u00e9sormais tous les aspects de notre vie et les pr\u00e9jug\u00e9s se cr\u00e9ent et se propagent de diff\u00e9rentes mani\u00e8res, mais nous, qui dans l’imaginaire tendons \u00e0 r\u00e9duire l’intelligence artificielle \u00e0 des des cr\u00e9ations comme des robots et des andro\u00efdes, nous n’avons pas encore construit une prise de conscience ad\u00e9quate de cela<\/strong>\u00bb ajoute Bartoletti qui est \u00e9galement co-fondateur de R\u00e9seau des femmes leaders en IA<\/em><\/a>un r\u00e9seau f\u00e9minin qui sensibilise la technologie et la politique pour apporter de la transparence au monde de l’Intelligence Artificielle. Bartoletti tient \u00e0 pr\u00e9ciser que les in\u00e9galit\u00e9s que l’intelligence artificielle peut reproduire ne sont certainement pas \u00e9puis\u00e9es en termes de genre.<\/strong>.<\/p>\n C’est devenu un film – Biais cod\u00e9<\/em><\/a>d\u00e9cern\u00e9 \u00e0 Festival de Sundance en 2020 l’exp\u00e9rience d’un chercheur en couleur du MIT \u00e0 Boston<\/strong> – Joy Buolamwini, ghan\u00e9enne naturalis\u00e9e am\u00e9ricaine -, qui partant de son exp\u00e9rience personnelle a enqu\u00eat\u00e9 sur les algorithmes peuvent nuire aux minorit\u00e9s<\/strong>. Les syst\u00e8mes de reconnaissance faciale d\u00e9velopp\u00e9s par des soci\u00e9t\u00e9s informatiques bien connues ont \u00e9chou\u00e9 lorsque son visage a \u00e9t\u00e9 encadr\u00e9 par la cam\u00e9ra, l’emp\u00eachant ainsi d’acc\u00e9der. Mais d\u00e8s qu’elle l’a recouvert d’un masque blanc, le visage a \u00e9t\u00e9 reconnu.<\/p>\n A travers le projet Nuances de genre<\/strong> (nuances de genre), la chercheuse a donc d\u00e9montr\u00e9 comment diff\u00e9rents logiciels ont beaucoup plus de mal \u00e0 reconna\u00eetre les femmes que les hommes<\/strong>, en particulier les femmes \u00e0 la peau fonc\u00e9e. Aujourd’hui Joy Buolamwini, qui a \u00e9t\u00e9 entendue devant le Congr\u00e8s des \u00c9tats-Unis pour ses travaux, est \u00e0 la t\u00eate du programme Ligue de justice algorithmique<\/em><\/a><\/strong>qui vise \u00e0 rappeler la responsabilit\u00e9 dans la planification.<\/p>\n Comment \u00e7a sort ? Les \u00c9tats \u00e9laborent une l\u00e9gislation pour r\u00e9glementer les algorithmes<\/strong>: l’UE, par exemple, a propos\u00e9 une R\u00e8glement sur l’intelligence artificielle<\/em><\/a> sur lequel la table est encore ouverte. \u00abAux \u00c9tats-Unis, le National Institute of Standards and Technology a formul\u00e9 un certain nombre de recommandations pour \u00e9viter les distorsions<\/strong>. Les r\u00e8gles sont fondamentales \u00bb pr\u00e9cise Bartoletti, convaincu que l’environnement technologique doit \u00eatre prot\u00e9g\u00e9, par la r\u00e9glementation, exactement comme l’environnement naturel<\/strong>. Alors ils doivent \u00eatre l\u00e0 plus de femmes pour concevoir l’Intelligence Artificielle<\/strong> et des \u00e9quipes technologiques nourries d’une grande diversit\u00e9 d’horizons, car tant que seuls des hommes blancs con\u00e7oivent, il n’y aura qu’une seule perspective et une seule direction.\n<\/p>\nSi l’algorithme est biais\u00e9<\/h2>\n
![\"Atlas,](\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2022\/09\/Lintelligence-artificielle-est-elle-humaine-La-question-nest-pas-vide.jpg\" "\\"Atlas,")
\n <\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n<\/p><\/div>\n“Vice” de l’humanit\u00e9<\/h2>\n
L’iniquit\u00e9 r\u00e9side dans la m\u00e9thode<\/h2>\n
Former le st\u00e9r\u00e9otype<\/h2>\n
Du pr\u00e9jug\u00e9 \u00e0 la r\u00e8gle partag\u00e9e<\/h2>\n
La menace fant\u00f4me<\/h2>\n
Se sentir invisible<\/h2>\n
L’intelligence artificielle, un environnement \u00e0 prot\u00e9ger<\/h2>\n