{"id":1114386,"date":"2024-01-23T11:34:25","date_gmt":"2024-01-23T13:34:25","guid":{"rendered":"https:\/\/teknomers.com\/fr\/les-deepfakes-audio-apparaissent-comme-une-arme-de-choix-dans-la-desinformation-electorale\/"},"modified":"2024-01-23T11:34:25","modified_gmt":"2024-01-23T13:34:25","slug":"les-deepfakes-audio-apparaissent-comme-une-arme-de-choix-dans-la-desinformation-electorale","status":"publish","type":"post","link":"https:\/\/teknomers.com\/fr\/les-deepfakes-audio-apparaissent-comme-une-arme-de-choix-dans-la-desinformation-electorale\/","title":{"rendered":"Les deepfakes audio apparaissent comme une arme de choix dans la d\u00e9sinformation \u00e9lectorale"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Les deepfakes audio apparaissent comme un nouvel outil puissant dans la guerre de l\u2019information au cours d\u2019une ann\u00e9e de grandes \u00e9lections \u00e0 travers le monde, alors que les outils de clonage vocal bas\u00e9s sur l\u2019intelligence artificielle prolif\u00e8rent en ligne.<\/p>\n<p>Lundi, le bureau du procureur g\u00e9n\u00e9ral du New Hampshire a d\u00e9clar\u00e9 qu&#8217;il enqu\u00eatait sur une \u00e9ventuelle suppression d&#8217;\u00e9lecteurs, apr\u00e8s avoir re\u00e7u des plaintes selon lesquelles une voix &#8220;g\u00e9n\u00e9r\u00e9e artificiellement&#8221; \u00e0 l&#8217;effigie du pr\u00e9sident am\u00e9ricain Joe Biden appelait les \u00e9lecteurs de mani\u00e8re automatis\u00e9e pour les encourager \u00e0 ne pas voter \u00e0 la primaire pr\u00e9sidentielle de l&#8217;\u00c9tat. . <\/p>\n<p>Les chercheurs ont \u00e9galement averti que l\u2019utilisation de clips vocaux r\u00e9alistes mais falsifi\u00e9s imitant des politiciens et des dirigeants est susceptible de se propager, \u00e0 la suite de cas en 2023 de cr\u00e9ation audio pr\u00e9tendument synth\u00e9tique pour influencer la politique et les \u00e9lections au Royaume-Uni, en Inde, au Nig\u00e9ria, au Soudan, en \u00c9thiopie et Slovaquie. <\/p>\n<p>Les deepfakes audio deviennent une forme de d\u00e9sinformation de plus en plus populaire, selon les experts, en raison de l&#8217;av\u00e8nement d&#8217;outils d&#8217;IA bon march\u00e9 et efficaces propos\u00e9s par des start-ups telles que ElevenLabs, Resemble AI, Respeecher et Replica Studios.  Pendant ce temps, la branche de recherche de Microsoft a annonc\u00e9 l&#8217;ann\u00e9e derni\u00e8re le d\u00e9veloppement d&#8217;un nouveau mod\u00e8le d&#8217;IA d&#8217;entreprise, VALL-E, capable de cloner une voix \u00e0 partir de seulement trois secondes d&#8217;enregistrement. <\/p>\n<p>&#8220;En mati\u00e8re de manipulation visuelle, tout le monde est habitu\u00e9 \u00e0 Photoshop ou du moins sait qu&#8217;il existe&#8221;, Henry Ajder, expert en IA et deepfakes et conseiller d&#8217;Adobe, Meta et EY.  &#8220;On est beaucoup moins conscient de la mani\u00e8re dont le mat\u00e9riel audio peut \u00eatre manipul\u00e9, ce qui, \u00e0 mon avis, nous rend vraiment vuln\u00e9rables.&#8221;<\/p>\n<div class=\"n-content-layout__container--in-line\">\n<div data-cp-clip-layout=\"in-line\" data-cp-clip-poster=\"https:\/\/spark-clips-prod.s3.eu-west-1.amazonaws.com\/poster-images\/d00a3374-dea6-4260-91bd-826d60e7c38d\" data-cp-clip-autoplay=\"false\" data-cp-clip-closed-caption=\"true\" data-cp-clip-loop=\"false\" class=\"cp-clip\" data-trackable=\"next-article-cp-clip\" data-o-component=\"cp-clip\" data-cp-clip-id=\"7f0afb28-62f5-459a-b102-808a76130ac8\">\n<div class=\"cp-clip__video-container\"><video class=\"cp-clip__video\" controls=\"\" controlslist=\"nodownload noremoteplayback noplaybackrate\" disablepictureinpicture=\"\" disableremoteplayback=\"\" playsinline=\"\" poster=\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/01\/Les-deepfakes-audio-apparaissent-comme-une-arme-de-choix-dans.jpeg\" preload=\"auto\" tabindex=\"0\"><source src=\"https:\/\/spark-clips-prod.s3.eu-west-1.amazonaws.com\/optimised-media-files\/17060143970720\/1920x1080.mp4\" type=\"video\/mp4\"\/><track label=\"English\" kind=\"captions\" srclang=\"en\" src=\"https:\/\/next-media-api.ft.com\/clips\/captions\/33508117\"\/><\/video><img decoding=\"async\" class=\"cp-clip__fallback o-normalise-visually-hidden\" src=\"https:\/\/teknomers.com\/fr\/wp-content\/uploads\/2024\/01\/Les-deepfakes-audio-apparaissent-comme-une-arme-de-choix-dans.jpeg\" alt=\"La Maison Blanche confirme que l'appel automatis\u00e9 pr\u00e9tendument \u00e9manant du pr\u00e9sident am\u00e9ricain Joe Biden \u00e9tait un faux\" data-cp-clip-fallback=\"true\"\/><\/div>\n<\/div>\n<\/div>\n<p>En septembre, NewsGuard, qui \u00e9value la qualit\u00e9 et la fiabilit\u00e9 des sites d\u2019information, a d\u00e9couvert un r\u00e9seau de comptes TikTok se faisant passer pour des m\u00e9dias l\u00e9gitimes, pr\u00e9sentant des voix off g\u00e9n\u00e9r\u00e9es par l\u2019IA colportant des th\u00e9ories du complot et de la d\u00e9sinformation politique.  Cela comprenait une voix simul\u00e9e de l&#8217;ancien pr\u00e9sident am\u00e9ricain Barack Obama se d\u00e9fendant contre des all\u00e9gations sans fondement le liant \u00e0 la mort de son chef personnel.<\/p>\n<p>Les fausses voix off semblaient avoir \u00e9t\u00e9 g\u00e9n\u00e9r\u00e9es par un outil mis \u00e0 disposition par ElevenLabs, soutenu par Andreessen Horowitz, tandis que les clips <a rel=\"nofollow noopener\" href=\"https:\/\/www.newsguardtech.com\/special-reports\/ai-voice-technology-creates-conspiracy-videos-on-tiktok\/\" data-trackable=\"link\" target=\"_blank\">accumul\u00e9<\/a> des centaines de millions de vues, a d\u00e9clar\u00e9 NewsGuard. <\/p>\n<p>&#8220;Plus de 99 pour cent des utilisateurs de notre plateforme cr\u00e9ent du contenu int\u00e9ressant, innovant et utile, mais nous reconnaissons qu&#8217;il existe des cas d&#8217;utilisation abusive, et nous avons continuellement d\u00e9velopp\u00e9 et publi\u00e9 des mesures de protection pour les freiner&#8221;, a d\u00e9clar\u00e9 ElevenLabs au moment de la publication. le rapport. <\/p>\n<p>ElevenLabs, fond\u00e9 il y a deux ans par Piotr Dabkowski et Mati Staniszewski, anciens employ\u00e9s de Google et Palantir, propose des outils gratuits de g\u00e9n\u00e9ration audio rudimentaire d&#8217;IA en un seul clic de souris.  Les abonnements vont de 1 $ par mois \u00e0 330 $ par mois et plus pour ceux qui recherchent des offres plus sophistiqu\u00e9es. <\/p>\n<p>Les auteurs de d\u00e9sinformation ont \u00e9t\u00e9 enhardis par les outils d&#8217;IA mis au point par ElevenLabs, qui ont fait passer la qualit\u00e9 de l&#8217;audio synth\u00e9tique d&#8217;une qualit\u00e9 d\u00e9cousue et robotique \u00e0 une qualit\u00e9 plus naturelle avec la bonne inflexion, l&#8217;intonation et les \u00e9motions, selon Ajder.<\/p>\n<p>&#8220;Fondamentalement, [ElevenLabs] a chang\u00e9 la donne \u00e0 la fois en termes de r\u00e9alisme qui peut \u00eatre atteint, en particulier avec une petite quantit\u00e9 de donn\u00e9es \u00bb, a-t-il d\u00e9clar\u00e9. <\/p>\n<p>Le march\u00e9 des outils de synth\u00e8se vocale a explos\u00e9 au cours de la derni\u00e8re ann\u00e9e.  Certains, comme Voice AI, proposent des applications gratuites et commercialisent leur technologie pour une utilisation en tant que <a rel=\"nofollow noopener\" href=\"https:\/\/voice.ai\/hub\/use-case\/prank-call\/\" data-trackable=\"link\" target=\"_blank\">doublage<\/a> pour des farces.  D&#8217;autres, comme Replica Studios et Respeecher, facturent des frais nominaux aux cr\u00e9ateurs, cin\u00e9astes ou d\u00e9veloppeurs de jeux.<\/p>\n<p>Il est souvent difficile de savoir quelles entreprises sont utilis\u00e9es pour cr\u00e9er des deepfakes \u00e0 motivation politique, car la plupart des outils de d\u00e9tection ne peuvent pas identifier la source originale.  Mais la pr\u00e9valence croissante de ces produits bas\u00e9s sur l\u2019IA suscite des inqui\u00e9tudes quant aux abus potentiels dans un espace non r\u00e9glement\u00e9.<\/p>\n<p>L\u2019ann\u00e9e derni\u00e8re, les agences de renseignement am\u00e9ricaines ont averti dans un rapport qu\u2019\u00ab il y a eu une augmentation massive des escroqueries personnalis\u00e9es li\u00e9es \u00e0 l\u2019IA compte tenu de la publication de mod\u00e8les de clonage vocal d\u2019IA sophistiqu\u00e9s et hautement qualifi\u00e9s \u00bb. <\/p>\n<p>Au-del\u00e0 des escroqueries motiv\u00e9es par des raisons financi\u00e8res, les experts politiques tirent d\u00e9sormais la sonnette d\u2019alarme sur les clips audio viraux deepfakes ainsi que sur l\u2019utilisation de deepfakes \u00e0 des fins d\u2019appels automatis\u00e9s ou de campagnes.  \u00ab\u00a0Vous pouvez cr\u00e9er \u00e0 tr\u00e8s peu de frais une vaste et forte campagne de d\u00e9sinformation en ciblant les gens par t\u00e9l\u00e9phone\u00a0\u00bb, a d\u00e9clar\u00e9 AJ Nash, vice-pr\u00e9sident et membre distingu\u00e9 du renseignement du groupe de cybers\u00e9curit\u00e9 ZeroFox. <\/p>\n<p>Certaines de ces entreprises ont cherch\u00e9 de mani\u00e8re proactive d\u2019autres moyens de contrer la d\u00e9sinformation.  Microsoft a publi\u00e9 une d\u00e9claration \u00e9thique appelant les utilisateurs \u00e0 signaler tout abus de son outil audio d&#8217;IA, d\u00e9clarant que l&#8217;orateur doit approuver l&#8217;utilisation de sa voix avec l&#8217;outil.  ElevenLabs a construit ses propres outils de d\u00e9tection pour identifier les enregistrements audio r\u00e9alis\u00e9s par ses syst\u00e8mes.  D&#8217;autres, comme <a rel=\"nofollow noopener\" href=\"https:\/\/www.resemble.ai\/neural-speech-watermarker\/\" data-trackable=\"link\" target=\"_blank\">Ressembler<\/a>explorent l&#8217;estampage du contenu g\u00e9n\u00e9r\u00e9 par l&#8217;IA avec des filigranes inaudibles. <\/p>\n<p>Lors des \u00e9lections de 2023 au Nigeria, un clip manipul\u00e9 par l\u2019IA s\u2019est r\u00e9pandu sur les r\u00e9seaux sociaux \u00ab impliquant pr\u00e9tendument un candidat de l\u2019opposition \u00e0 la pr\u00e9sidentielle dans des projets de fraude \u00e9lectorale \u00bb, selon l\u2019organisation de d\u00e9fense des droits humains Freedom House. <\/p>\n<p>En Slovaquie, un faux audio du candidat de l&#8217;opposition Michal \u0160ime\u010dka complotant apparemment pour truquer les \u00e9lections est devenu viral quelques jours seulement avant le scrutin pr\u00e9sidentiel du pays en septembre. <\/p>\n<p>Semant davantage la confusion, des groupes et des individus en Inde et en \u00c9thiopie ont d\u00e9nonc\u00e9 des enregistrements audio comme \u00e9tant faux, pour ensuite que d&#8217;autres chercheurs et v\u00e9rificateurs ind\u00e9pendants affirment qu&#8217;ils \u00e9taient authentiques.<\/p>\n<p>Les experts ont averti qu\u2019un probl\u00e8me associ\u00e9 est que l\u2019audio cr\u00e9\u00e9 par l\u2019IA est souvent plus difficile \u00e0 d\u00e9tecter que la vid\u00e9o.  &#8220;Vous avez simplement beaucoup moins d&#8217;indices contextuels sur lesquels vous pourriez essayer de travailler&#8221;, explique Katie Harbath, responsable des affaires mondiales chez Duco Experts et ancienne directrice des politiques publiques de Meta.<\/p>\n<p>Il existe souvent des indicateurs visuels r\u00e9v\u00e9lateurs de l&#8217;inauthenticit\u00e9 d&#8217;une vid\u00e9o, tels que des probl\u00e8mes de qualit\u00e9, des ombres \u00e9tranges, un flou ou des mouvements non naturels. <\/p>\n<p>\u00ab Les avantages de l&#8217;audio [for bad actors] c&#8217;est que vous pouvez \u00eatre moins pr\u00e9cis \u00bb, a d\u00e9clar\u00e9 Nash.  &#8220;Pour les d\u00e9fauts, vous pouvez les masquer avec un bruit de fond, une musique \u00e9touff\u00e9e.&#8221;  Par exemple, un deepfake montrant le chef de l&#8217;opposition britannique, Sir Keir Starmer, r\u00e9primandant un membre du personnel, sonnait comme s&#8217;il avait \u00e9t\u00e9 enregistr\u00e9 dans un restaurant tr\u00e8s fr\u00e9quent\u00e9. <\/p>\n<aside aria-labelledby=\"aside-label\" class=\"n-content-recommended--single-story\">\n<p class=\"n-content-recommended__title\">Recommand\u00e9<\/p>\n<div class=\"o-teaser o-teaser--article o-teaser--small o-teaser--stacked o-teaser--has-image js-teaser\" data-id=\"16f23c01-fa51-408e-acf5-0d30a5a1ebf2\">\n<div class=\"o-teaser__image-container js-teaser-image-container\">\n<div class=\"o-teaser__image-placeholder\" style=\"padding-bottom:56.2500%\"><img decoding=\"async\" class=\"o-teaser__image\" src=\"https:\/\/www.ft.com\/__origami\/service\/image\/v2\/images\/raw\/https%3A%2F%2Fwww.ft.com%2F__origami%2Fservice%2Fimage%2Fv2%2Fimages%2Fraw%2Fhttps%253A%252F%252Fd1e00ek4ebabms.cloudfront.net%252Fproduction%252F3dda8fb9-4cae-48ae-8987-b9773522685c.jpg%3Fsource%3Dnext-article%26fit%3Dscale-down%26quality%3Dhighest%26width%3D700%26dpr%3D1?source=next&amp;fit=scale-down&amp;dpr=2&amp;width=240\" alt=\"\"\/><\/div>\n<\/div>\n<\/div>\n<\/aside>\n<p>Un march\u00e9 de la d\u00e9tection assist\u00e9e par la technologie est en train d&#8217;\u00e9merger pour contrer ce probl\u00e8me.  Le groupe de cybers\u00e9curit\u00e9 McAfee a annonc\u00e9 ce mois-ci le projet Mockingbird, un outil qui recherche les anomalies dans les mod\u00e8les sonores, les fr\u00e9quences et l&#8217;amplitude, avant de donner aux utilisateurs une probabilit\u00e9 de savoir si l&#8217;audio est r\u00e9el ou faux.  Le directeur technologique de McAfee, Steve Grobman, a d\u00e9clar\u00e9 que son outil de d\u00e9tection avait une efficacit\u00e9 d&#8217;environ 90 pour cent. <\/p>\n<p>Nicolas M\u00fcller, chercheur en apprentissage automatique au Fraunhofer AISEC, a not\u00e9 que l&#8217;ajout d\u00e9lib\u00e9r\u00e9 de musique ou la d\u00e9gradation de la qualit\u00e9 de l&#8217;audio interf\u00e8re \u00e9galement avec la pr\u00e9cision des outils de d\u00e9tection.<\/p>\n<p>Les plateformes en ligne s\u2019efforcent de contenir le probl\u00e8me.  Meta a fait l&#8217;objet de critiques car il interdit explicitement les vid\u00e9os manipul\u00e9es destin\u00e9es \u00e0 induire en erreur, mais les m\u00eames r\u00e8gles ne semblent pas s&#8217;appliquer \u00e0 l&#8217;audio.  Meta a d\u00e9clar\u00e9 que les deepfakes audio pouvaient faire l&#8217;objet d&#8217;une v\u00e9rification des faits et seraient \u00e9tiquet\u00e9s et d\u00e9class\u00e9s dans les flux des utilisateurs une fois trouv\u00e9s.  TikTok a \u00e9galement investi dans les capacit\u00e9s d&#8217;\u00e9tiquetage et de d\u00e9tection. <\/p>\n<p>&#8220;Le deepfake du New Hampshire rappelle les nombreuses fa\u00e7ons dont les deepfakes peuvent semer la confusion et perp\u00e9tuer la fraude&#8221;, a d\u00e9clar\u00e9 Robert Weissman, pr\u00e9sident du groupe de d\u00e9fense des consommateurs \u00e0 but non lucratif Public Citizen.  \u00ab Le moment politique du deepfake est arriv\u00e9.  Les d\u00e9cideurs politiques doivent se d\u00e9p\u00eacher de mettre en place des protections, sinon nous serons confront\u00e9s au chaos \u00e9lectoral.\u00bb <\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/bd75b678-044f-409e-b987-8704d6a704ea\" rel=\"nofollow noopener\" target=\"_blank\">ttn-fr-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Les deepfakes audio apparaissent comme un nouvel outil puissant dans la guerre de l\u2019information au cours d\u2019une ann\u00e9e de grandes \u00e9lections \u00e0 travers le monde, alors que les outils de clonage vocal bas\u00e9s sur l\u2019intelligence artificielle prolif\u00e8rent en ligne. Lundi, le bureau du procureur g\u00e9n\u00e9ral du New Hampshire a d\u00e9clar\u00e9 qu&#8217;il enqu\u00eatait sur une \u00e9ventuelle [&hellip;]<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[3],"tags":[32972,1458,8079,1723,1756,429,62374,5345,28185,65,196],"class_list":["post-1114386","post","type-post","status-publish","format-standard","hentry","category-general","tag-apparaissent","tag-arme","tag-audio","tag-choix","tag-comme","tag-dans","tag-deepfakes","tag-desinformation","tag-electorale","tag-les","tag-une"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1114386","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/comments?post=1114386"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/posts\/1114386\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/media?parent=1114386"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/categories?post=1114386"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/fr\/wp-json\/wp\/v2\/tags?post=1114386"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}