{"id":1148673,"date":"2024-01-23T13:33:19","date_gmt":"2024-01-23T13:33:19","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-audio-deepfakes-emergen-como-arma-preferida-en-la-desinformacion-electoral\/"},"modified":"2024-01-23T13:33:19","modified_gmt":"2024-01-23T13:33:19","slug":"los-audio-deepfakes-emergen-como-arma-preferida-en-la-desinformacion-electoral","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-audio-deepfakes-emergen-como-arma-preferida-en-la-desinformacion-electoral\/","title":{"rendered":"Los audio deepfakes emergen como arma preferida en la desinformaci\u00f3n electoral"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"article-body\">\n<p>Los deepfakes de audio est\u00e1n surgiendo como una nueva y poderosa herramienta en la guerra de la informaci\u00f3n durante un a\u00f1o de grandes elecciones en todo el mundo, a medida que proliferan en l\u00ednea las herramientas de clonaci\u00f3n de voz impulsadas por inteligencia artificial.<\/p>\n<p>El lunes, la oficina del fiscal general de New Hampshire dijo que estaba investigando una posible supresi\u00f3n de votantes, despu\u00e9s de recibir quejas de que una voz \u201cgenerada artificialmente\u201d con la semejanza del presidente estadounidense Joe Biden estaba llamando autom\u00e1ticamente a los votantes anim\u00e1ndolos a no votar en las primarias presidenciales del estado. . <\/p>\n<p>Los investigadores tambi\u00e9n han advertido que es probable que se extienda el uso de clips de voz realistas pero falsos que imitan a pol\u00edticos y l\u00edderes, luego de casos en 2023 de audio supuestamente sint\u00e9tico creado para influir en la pol\u00edtica y las elecciones en el Reino Unido, India, Nigeria, Sud\u00e1n, Etiop\u00eda y Eslovaquia. <\/p>\n<p>Los deepfakes de audio se est\u00e1n convirtiendo en una forma cada vez m\u00e1s popular de desinformaci\u00f3n, seg\u00fan los expertos, debido a la llegada de herramientas de inteligencia artificial baratas y efectivas de empresas emergentes como ElevenLabs, Resemble AI, Respeecher y Replica Studios.  Mientras tanto, el brazo de investigaci\u00f3n de Microsoft anunci\u00f3 el a\u00f1o pasado el desarrollo de un nuevo modelo de IA de la empresa, VALL-E, que puede clonar una voz a partir de s\u00f3lo tres segundos de grabaciones. <\/p>\n<p>&#8220;Cuando se trata de manipulaci\u00f3n visual, todo el mundo est\u00e1 acostumbrado a Photoshop o al menos sabe que existe&#8221;, dice Henry Ajder, experto en IA y deepfakes y asesor de Adobe, Meta y EY.  &#8220;Hay mucha menos conciencia sobre c\u00f3mo se puede manipular el material de audio, por lo que, en mi opini\u00f3n, eso realmente nos prepara para ser vulnerables&#8221;.<\/p>\n<div class=\"n-content-layout__container--in-line\">\n<div data-cp-clip-layout=\"in-line\" data-cp-clip-poster=\"https:\/\/spark-clips-prod.s3.eu-west-1.amazonaws.com\/poster-images\/d00a3374-dea6-4260-91bd-826d60e7c38d\" data-cp-clip-autoplay=\"false\" data-cp-clip-closed-caption=\"true\" data-cp-clip-loop=\"false\" class=\"cp-clip\" data-trackable=\"next-article-cp-clip\" data-o-component=\"cp-clip\" data-cp-clip-id=\"7f0afb28-62f5-459a-b102-808a76130ac8\">\n<div class=\"cp-clip__video-container\"><video class=\"cp-clip__video\" controls=\"\" controlslist=\"nodownload noremoteplayback noplaybackrate\" disablepictureinpicture=\"\" disableremoteplayback=\"\" playsinline=\"\" poster=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/01\/Los-audio-deepfakes-emergen-como-arma-preferida-en-la-desinformacion.jpeg\" preload=\"auto\" tabindex=\"0\"><source src=\"https:\/\/spark-clips-prod.s3.eu-west-1.amazonaws.com\/optimised-media-files\/17060143970720\/1920x1080.mp4\" type=\"video\/mp4\"\/><track label=\"English\" kind=\"captions\" srclang=\"en\" src=\"https:\/\/next-media-api.ft.com\/clips\/captions\/33508117\"\/><\/video><img decoding=\"async\" class=\"cp-clip__fallback o-normalise-visually-hidden\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/01\/Los-audio-deepfakes-emergen-como-arma-preferida-en-la-desinformacion.jpeg\" alt=\"La Casa Blanca confirma que la llamada autom\u00e1tica que supuestamente era del presidente estadounidense Joe Biden era falsa\" data-cp-clip-fallback=\"true\"\/><\/div>\n<\/div>\n<\/div>\n<p>En septiembre, NewsGuard, que califica la calidad y confiabilidad de los sitios de noticias, descubri\u00f3 una red de cuentas de TikTok que se hacen pasar por medios de noticias leg\u00edtimos y presentan voces en off generadas por inteligencia artificial que venden teor\u00edas de conspiraci\u00f3n y desinformaci\u00f3n pol\u00edtica.  Esto inclu\u00eda una voz simulada del ex presidente estadounidense Barack Obama defendi\u00e9ndose de afirmaciones infundadas que lo vinculaban con la muerte de su chef personal.<\/p>\n<p>Las voces en off falsas parec\u00edan haber sido generadas por una herramienta proporcionada por ElevenLabs, respaldada por Andreessen Horowitz, mientras que los clips <a rel=\"nofollow noopener\" href=\"https:\/\/www.newsguardtech.com\/special-reports\/ai-voice-technology-creates-conspiracy-videos-on-tiktok\/\" data-trackable=\"link\" target=\"_blank\">acumulado<\/a> cientos de millones de visitas, dijo NewsGuard. <\/p>\n<p>&#8220;M\u00e1s del 99 por ciento de los usuarios de nuestra plataforma est\u00e1n creando contenido interesante, innovador y \u00fatil, pero reconocemos que hay casos de uso indebido y hemos estado desarrollando y lanzando continuamente salvaguardas para frenarlos&#8221;, dijo ElevenLabs en el momento de la el informe. <\/p>\n<p>ElevenLabs, fundado hace dos a\u00f1os por Piotr Dabkowski y Mati Staniszewski, antiguos empleados de Google y Palantir, ofrece herramientas rudimentarias de generaci\u00f3n de audio mediante IA con solo hacer clic en el rat\u00f3n.  Las suscripciones van desde $1 al mes hasta $330 al mes y m\u00e1s para aquellos que buscan ofertas m\u00e1s sofisticadas. <\/p>\n<p>Los perpetradores de desinformaci\u00f3n se han envalentonado con las herramientas de inteligencia artificial de las que fue pionera ElevenLabs, que ha cambiado la calidad del audio sint\u00e9tico de ser inconexo y rob\u00f3tico a m\u00e1s natural con la inflexi\u00f3n, la entonaci\u00f3n y las emociones correctas, seg\u00fan Ajder.<\/p>\n<p>&#8220;Fundamentalmente, [ElevenLabs] &#8220;Cambi\u00f3 el juego en t\u00e9rminos del realismo que se puede lograr, especialmente con una peque\u00f1a cantidad de datos&#8221;, afirm\u00f3. <\/p>\n<p>El mercado de herramientas de conversi\u00f3n de texto a voz se ha disparado durante el a\u00f1o pasado.  Algunos, como Voice AI, ofrecen aplicaciones gratuitas y comercializan su tecnolog\u00eda para su uso como <a rel=\"nofollow noopener\" href=\"https:\/\/voice.ai\/hub\/use-case\/prank-call\/\" data-trackable=\"link\" target=\"_blank\">doblaje<\/a> para bromas.  Otros, como Replica Studios y Respeecher, cobran tarifas nominales a los creadores, cineastas o desarrolladores de juegos.<\/p>\n<p>A menudo no est\u00e1 claro qu\u00e9 empresas se utilizan para crear deepfakes con motivaciones pol\u00edticas, ya que la mayor\u00eda de las herramientas de detecci\u00f3n no pueden identificar la fuente original.  Pero la creciente prevalencia de este tipo de productos impulsados \u200b\u200bpor IA est\u00e1 generando preocupaci\u00f3n por posibles abusos en un espacio no regulado.<\/p>\n<p>El a\u00f1o pasado, las agencias de inteligencia estadounidenses advirtieron en un informe que \u201cha habido un aumento masivo de estafas personalizadas con IA debido al lanzamiento de modelos de clonaci\u00f3n de voz de IA sofisticados y altamente capacitados\u201d. <\/p>\n<p>M\u00e1s all\u00e1 de las estafas con motivaci\u00f3n financiera, los expertos pol\u00edticos ahora est\u00e1n haciendo sonar la alarma sobre los clips de audio virales deepfake, as\u00ed como el uso de deepfakes para llamadas autom\u00e1ticas o campa\u00f1as.  &#8220;Se puede crear de manera muy econ\u00f3mica una campa\u00f1a fuerte y amplia de desinformaci\u00f3n dirigida a personas por tel\u00e9fono&#8221;, dijo AJ Nash, vicepresidente y miembro distinguido de inteligencia del grupo de seguridad cibern\u00e9tica ZeroFox. <\/p>\n<p>Algunas de estas empresas han buscado proactivamente otras formas de contrarrestar la desinformaci\u00f3n.  Microsoft emiti\u00f3 una declaraci\u00f3n \u00e9tica, pidiendo a los usuarios que informen sobre cualquier abuso de su herramienta de audio de IA, afirmando que el hablante debe aprobar el uso de su voz con la herramienta.  ElevenLabs ha creado sus propias herramientas de detecci\u00f3n para identificar grabaciones de audio realizadas por sus sistemas.  Otros, como <a rel=\"nofollow noopener\" href=\"https:\/\/www.resemble.ai\/neural-speech-watermarker\/\" data-trackable=\"link\" target=\"_blank\">Parecerse<\/a>est\u00e1n explorando estampar contenido generado por IA con marcas de agua inaudibles. <\/p>\n<p>Durante las elecciones de 2023 en Nigeria, se difundi\u00f3 en las redes sociales un clip manipulado por IA que \u201csupuestamente implicaba a un candidato presidencial de la oposici\u00f3n en planes para manipular las votaciones\u201d, seg\u00fan el grupo de derechos humanos Freedom House. <\/p>\n<p>En Eslovaquia, un audio falso del candidato de la oposici\u00f3n Michal \u0160ime\u010dka aparentemente conspirando para manipular las elecciones se volvi\u00f3 viral pocos d\u00edas antes de las elecciones presidenciales del pa\u00eds en septiembre. <\/p>\n<p>Sembrando a\u00fan m\u00e1s confusi\u00f3n, grupos e individuos en India y Etiop\u00eda han denunciado grabaciones de audio como falsas, solo para que otros investigadores y verificadores de datos independientes afirmaran que eran aut\u00e9nticas.<\/p>\n<p>Los expertos advirtieron que un problema asociado es que el audio creado por IA suele ser m\u00e1s dif\u00edcil de detectar que el v\u00eddeo.  &#8220;Simplemente tienes muchas menos pistas contextuales que puedas intentar aprovechar&#8221;, dice Katie Harbath, oficial de asuntos globales de Duco Experts y ex directora de pol\u00edticas p\u00fablicas de Meta.<\/p>\n<p>A menudo hay indicadores visuales reveladores de que un v\u00eddeo no es aut\u00e9ntico, como fallos en la calidad, sombras extra\u00f1as, movimientos borrosos o antinaturales. <\/p>\n<p>\u201cLas ventajas del audio [for bad actors] son que puedes ser menos preciso\u201d, dijo Nash.  &#8220;Los defectos se pueden tapar con ruido de fondo y m\u00fasica amortiguada&#8221;.  Un deepfake del l\u00edder de la oposici\u00f3n brit\u00e1nica, Sir Keir Starmer, supuestamente reprendiendo a un empleado, por ejemplo, son\u00f3 como si hubiera sido grabado en un restaurante concurrido. <\/p>\n<aside aria-labelledby=\"aside-label\" class=\"n-content-recommended--single-story\">\n<p class=\"n-content-recommended__title\">Recomendado<\/p>\n<div class=\"o-teaser o-teaser--article o-teaser--small o-teaser--stacked o-teaser--has-image js-teaser\" data-id=\"16f23c01-fa51-408e-acf5-0d30a5a1ebf2\">\n<div class=\"o-teaser__image-container js-teaser-image-container\">\n<div class=\"o-teaser__image-placeholder\" style=\"padding-bottom:56.2500%\"><img decoding=\"async\" class=\"o-teaser__image\" src=\"https:\/\/www.ft.com\/__origami\/service\/image\/v2\/images\/raw\/https%3A%2F%2Fwww.ft.com%2F__origami%2Fservice%2Fimage%2Fv2%2Fimages%2Fraw%2Fhttps%253A%252F%252Fd1e00ek4ebabms.cloudfront.net%252Fproduction%252F3dda8fb9-4cae-48ae-8987-b9773522685c.jpg%3Fsource%3Dnext-article%26fit%3Dscale-down%26quality%3Dhighest%26width%3D700%26dpr%3D1?source=next&amp;fit=scale-down&amp;dpr=2&amp;width=240\" alt=\"\"\/><\/div>\n<\/div>\n<\/div>\n<\/aside>\n<p>Est\u00e1 surgiendo un mercado de detecci\u00f3n asistida por tecnolog\u00eda para contrarrestar el problema.  El grupo de ciberseguridad McAfee anunci\u00f3 este mes el Proyecto Mockingbird, una herramienta que busca anomal\u00edas en los patrones, frecuencias y amplitud del sonido, antes de brindar a los usuarios una probabilidad de si el audio es real o falso.  El director de tecnolog\u00eda de McAfee, Steve Grobman, dijo que su herramienta de detecci\u00f3n tiene aproximadamente un 90 por ciento de efectividad. <\/p>\n<p>Nicolas M\u00fcller, cient\u00edfico investigador de aprendizaje autom\u00e1tico en Fraunhofer AISEC, se\u00f1al\u00f3 que agregar m\u00fasica deliberadamente o degradar la calidad del audio tambi\u00e9n interfiere con la precisi\u00f3n de las herramientas de detecci\u00f3n.<\/p>\n<p>Las plataformas en l\u00ednea est\u00e1n luchando por contener el problema.  Meta ha enfrentado cr\u00edticas porque proh\u00edbe expl\u00edcitamente videos manipulados dise\u00f1ados para enga\u00f1ar, pero las mismas reglas no parecen aplicarse al audio.  Meta dijo que los deepfakes de audio eran elegibles para ser verificados y ser\u00edan etiquetados y degradados en los feeds de los usuarios cuando se encontraran.  TikTok tambi\u00e9n ha estado invirtiendo en capacidades de etiquetado y detecci\u00f3n. <\/p>\n<p>&#8220;El deepfake de New Hampshire es un recordatorio de las muchas formas en que los deepfake pueden sembrar confusi\u00f3n y perpetuar el fraude&#8221;, dijo Robert Weissman, presidente del grupo sin fines de lucro de defensa del consumidor Public Citizen.  \u201cEl momento pol\u00edtico del deepfake est\u00e1 aqu\u00ed.  Los formuladores de pol\u00edticas deben apresurarse a implementar protecciones o nos enfrentaremos a un caos electoral\u201d. <\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/bd75b678-044f-409e-b987-8704d6a704ea\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Los deepfakes de audio est\u00e1n surgiendo como una nueva y poderosa herramienta en la guerra de la informaci\u00f3n<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[2122,128,440,114227,5773,13829,78513,36,92028],"class_list":["post-1148673","post","type-post","status-publish","format-standard","hentry","category-general","tag-arma","tag-audio","tag-como","tag-deepfakes","tag-desinformacion","tag-electoral","tag-emergen","tag-los","tag-preferida"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1148673","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1148673"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1148673\/revisions"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1148673"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1148673"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1148673"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}