C’est un dilemme terriblement difficile. Voulons-nous un monde dans lequel le gouvernement puisse identifier toutes les personnes dans la rue grâce à la reconnaissance faciale ? Où tout le monde au pub ou dans le train peut découvrir votre nom, simplement en scannant votre visage avec l’appareil photo d’un téléphone ?
Probablement pas. Et si la même technologie pouvait reconnaître l’auteur d’un viol ou d’un vol sur image ? Ou peut-on identifier les agresseurs de pédopornographie ?
Le livre a été publié la semaine dernière Votre visage nous appartient (publié en néerlandais sous le titre Ton visage est le nôtre maintenant) par Le New York Timesjournaliste Kashmir Hill. Un livre bien écrit et révélateur sur l’essor de l’entreprise technologique américaine Clearview AI. Cette entreprise du PDG et fondateur Hoan Ton-That a construit un logiciel qui, à l’aide d’une base de données contenant des dizaines de milliards de photos de visages, peut identifier pratiquement tous les citoyens occidentaux. Toute personne ayant déjà eu son visage sur Internet peut être trouvée par Clearview AI.
Il s’avère qu’il s’agit d’une mine d’or pour les services d’enquête. Comme Hill en 2020 à propos de Clearview AI publie, l’entreprise est pour la première fois aux yeux du public – involontairement. Clearview AI est déjà utilisé par des dizaines de services de police et d’enquête aux États-Unis pour identifier les criminels, qui apparaissent par exemple sur les images des caméras.
Pour son livre, Hill a suivi l’essor de l’entreprise, fondée en 2017 par Ton-That et Richard Schwartz, ancien consultant et conseiller municipal de New York. Tous deux n’ont aucune expérience en matière de données biométriques et, comme le souligne le livre, n’ont essentiellement aucune idée de ce qu’ils font exactement.
Ton-That retire le projet. L’Australien est parti aux États-Unis en 2007 dans le but de créer une application populaire et de devenir riche. Cela commence par des projets boiteux, comme une application (« Trump Hair ») avec laquelle vous pouvez fournir une photo personnelle avec la touche caractéristique de Trump. Et cela se termine avec une entreprise qui, selon le livre, a le potentiel de bouleverser l’ensemble de notre société.
Ton-That a des idées douteuses. Par exemple, il pense que la prédisposition d’une personne au crime peut être déduite des traits du visage. Lorsque Ashley Madison, un site de rencontres pour infidèles, est piraté, il collecte les noms et photos de 39 millions de profils. Il pense pouvoir trouver une tendance dans les visages des tricheurs.
Cela ne fonctionne pas, mais Ton-That parvient à collecter des milliards de photos de visages laissées sur Internet. À cette fin, Clearview AI supprime de nombreux sites Web sans demander la permission. Par exemple, l’entreprise réussit à prendre des millions de photos de Facebook, du site de photos Flickr et de l’application de rencontres Tinder et à les relier à une identité personnelle.
Image de la Chine
Clearview AI a fait ce que les grandes entreprises technologiques comme Google et Facebook pouvaient techniquement faire, mais n’ont pas osé : créer une énorme collection de photos et y appliquer l’intelligence artificielle. La peur de la Chine, où il existe même des distributeurs de papier toilette dotés de reconnaissance faciale pour empêcher les gens d’en utiliser trop, est encore trop grande.
Et c’est ainsi que Big Tech voit comment une petite start-up s’en sort avec les gros contrats gouvernementaux. Ton-That et ses collègues tirent simplement leurs connaissances technologiques de ce qui est librement accessible à tous : Open sourcemodèles et articles scientifiques. Le livre est donc également un avertissement contre ce que prônent de nombreux membres de la communauté de l’IA : rendre la technologie accessible à tous, afin que non seulement un nombre limité de grandes entreprises en profitent. Il y a sans doute quelque chose à dire là-dessus, mais le risque est que des start-up comme Clearview AI continuent là où Google et Facebook s’arrêtent.
Le livre n’explique pas exactement comment fonctionne la technologie derrière Clearview AI. On ne sait toujours pas comment Clearview AI, selon ses propres affirmations, parvient à analyser les visages avec une fiabilité supérieure à 99 %. Au lieu de cela, le livre développe parfois inutilement des leçons historiques, faisant même appel à Aristote pour illustrer l’importance des expressions faciales.
Même si la technologie de Clearview AI fonctionne apparemment bien, les choses tournent parfois terriblement mal. Comme Randal Quran Reid, qui a passé six jours en prison parce qu’il avait été (à tort) identifié par Clearview AI. Très douloureux : si les choses tournent mal, cela arrive principalement aux personnes à la peau foncée, un problème connu avec la technologie de reconnaissance faciale. De plus, les services de police qui utilisent Clearview AI en dépendent tellement que le travail normal de la police – dans la rue – est compromis.
Clearview AI devient un service indispensable pour la police et les services gouvernementaux, notamment aux États-Unis. Le livre décrit comment des violeurs et des meurtriers ont été retrouvés grâce à la technologie Clearview. Aux Pays-Bas également : d’après une recherche du site d’information américain Buzzfeed il est apparu que la police néerlandaise a utilisé Clearview AI au total « cinquante à cent fois » en 2020 et 2021.
Alors que les services gouvernementaux utilisent avec enthousiasme la technologie de Clearview AI, l’entreprise n’ose pas encore proposer l’application aux citoyens ordinaires. Ton-That a fait construire des lunettes VR connectées à Clearview AI, avec lesquelles il a immédiatement les noms et les informations de toutes les personnes qu’il voit projetées dans ses lunettes. Une technologie initialement conçue à des fins militaires, mais qui pourrait un jour devenir courante.
Pas encore, pense Ton-That, qui montre ses lunettes à Hill mais n’ose pas encore les sortir dans la rue par peur de toutes les réactions. Les citoyens qui s’espionnent les uns les autres sont apparemment encore plus effrayants qu’un gouvernement qui espionne ses citoyens. La peur de Big Brother n’est pas trop grave, mais celle de Little Brother est encore plus grande.