{"id":658022,"date":"2023-03-06T14:54:46","date_gmt":"2023-03-06T14:54:46","guid":{"rendered":"https:\/\/teknomers.com\/es\/de-la-desinformacion-a-las-falsificaciones-profundas-como-los-actores-de-amenazas-manipulan-la-realidad\/"},"modified":"2023-03-06T14:54:49","modified_gmt":"2023-03-06T14:54:49","slug":"de-la-desinformacion-a-las-falsificaciones-profundas-como-los-actores-de-amenazas-manipulan-la-realidad","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/de-la-desinformacion-a-las-falsificaciones-profundas-como-los-actores-de-amenazas-manipulan-la-realidad\/","title":{"rendered":"De la desinformaci\u00f3n a las falsificaciones profundas: c\u00f3mo los actores de amenazas manipulan la realidad"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div id=\"articlebody\">\n<div class=\"separator\" style=\"clear: both;\"><\/div>\n<p><em>Se espera que las falsificaciones profundas se conviertan en un vector de ataque m\u00e1s prominente.  Aqu\u00ed se explica c\u00f3mo identificarlos.<\/em><\/p>\n<h2>\u00bfQu\u00e9 son las falsificaciones profundas?<\/h2>\n<p>Una falsificaci\u00f3n profunda es el acto de reemplazar de manera maliciosa im\u00e1genes y videos reales con otros fabricados para manipular la informaci\u00f3n.  Para crear im\u00e1genes, videos y audio que tengan la calidad suficiente para usarse en falsificaciones profundas, se requieren IA y ML.  Dicho uso de IA, ML y reemplazo de im\u00e1genes es diferente a otros tipos de manipulaci\u00f3n de la informaci\u00f3n, que utilizan t\u00e9cnicas de manipulaci\u00f3n menos extremas, como tergiversar la informaci\u00f3n, aislar partes de la informaci\u00f3n o editarla de manera enga\u00f1osa.  Etay Maor, director s\u00e9nior de estrategia de seguridad de Cato Networks, agrega: &#8220;Para agregar complicaciones, los avances recientes y la accesibilidad al texto generado por IA, como GPT3, ya se han utilizado en combinaci\u00f3n con falsificaciones profundas (como prueba de concepto) para crear contenido interactivo, bots de conversaci\u00f3n de aspecto humano&#8221;<\/p>\n<h2>\u00bfQu\u00e9 aspecto tienen las falsificaciones profundas?<\/h2>\n<p>Las falsificaciones profundas vienen en todas las formas y tama\u00f1os.  Algunos son m\u00e1s simples y otros son m\u00e1s avanzados.  Algunos de los ejemplos m\u00e1s populares de falsificaciones profundas son:<\/p>\n<h3>Intercambio cara<\/h3>\n<p>El intercambio de caras es el acto de reemplazar la cara en un video o imagen de una persona a otra.  El intercambio de rostros requiere un software dedicado, pero no tiene que estar basado en tecnolog\u00eda avanzada; hoy en d\u00eda, incluso se pueden encontrar aplicaciones m\u00f3viles que admitan el intercambio de rostros.  El intercambio de rostros que est\u00e1 disponible en las aplicaciones m\u00f3viles generalmente se limita a casos de uso simples, como intercambiar entre las fotos del usuario y los rostros de los actores en escenas de pel\u00edculas. <\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEgPksP6CitlyqT1aRKaiDUbkiH1WsS1HqElSVa-FWo8SJEsjUrgrtlCrJYZhIhU1F5oFxdFfLh46AFggAGf7yzvOt5_ZolEZPIBC-h4BcNg75ASMn6Gz2lSzi8f0zieU4w5oAsl5KnZ6yfq9DW-t_v1hep92YzaV9mWEjn4WUfPJQ5sUcS82PGco1J2\/s728-e3650\/deepfake.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"309\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/div>\n<p>Existe un intercambio de caras m\u00e1s avanzado, pero requiere m\u00e1s entrenamiento y c\u00f3digo de modelo y, como resultado, GPU, que es costosa y consume muchos recursos.  Un ejemplo de una falsificaci\u00f3n profunda de intercambio de caras m\u00e1s avanzada se puede ver en este video, en el que Tom Cruise se intercambia con la cara del presentador:<\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEjDku0mIOWhnDhkq6NurtKm3ZUOIX8p4vBZsUvtgCI-PCiKaBOtDBYrm8DeL0VpfG7m5owe9iB59lRGugyy886DP0L9YztbAme29dw4pNcOEFnsmDNe097M1Ee6Ab1lv_e8UKZbkRjwJ51_IygZofLMtxImaG41XFoIYbP0ZbOdPsYaKkRWi3KtYFkX\/s728-e3650\/tom.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"452\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/div>\n<p>Este tom crucero <a rel=\"nofollow noopener\" href=\"https:\/\/www.tiktok.com\/@deeptomcruise\/video\/6932166297996233989?is_from_webapp=v1&amp;item_id=6932166297996233989\" target=\"_blank\">intercambio cara<\/a> requiri\u00f3 dos horas de capacitaci\u00f3n en una GPU, as\u00ed como d\u00edas de posprocesamiento de edici\u00f3n de video profesional.  Esto puede parecer mucho, pero tambi\u00e9n se consider\u00f3 un intercambio m\u00e1s simple que otros, porque el presentador ten\u00eda un corte de cabello similar al de Cruise y puede hacerse pasar por su voz, lo que significa que se requiri\u00f3 menos capacitaci\u00f3n y procesamiento posterior.<\/p>\n<h3>Titiritero (sincronizaci\u00f3n de labios)<\/h3>\n<p>La falsificaci\u00f3n profunda de &#8216;Puppet Master&#8217; es una t\u00e9cnica en la que se manipula la imagen de los movimientos de la boca de una persona, haciendo que parezca que la persona est\u00e1 diciendo algo que en realidad no ha dicho.  En comparaci\u00f3n con el intercambio de rostros, que entrena a un modelo en el nuevo rostro intercambiado, &#8216;Puppet Master&#8217; entrena a un modelo en el rostro de la imagen original, y espec\u00edficamente en los movimientos de la boca.<\/p>\n<p>Esto es lo que parece:<\/p>\n<p><iframe loading=\"lazy\" title=\"You Won\u2019t Believe What Obama Says In This Video! \ud83d\ude09\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/cQ54GDm1eL0?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<p style=\"text-align: center;\">[warning &#8211; explicit language]<\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEiKCRWCN9tKk0M667ulCKChxadNBoyRPGIlNCgX-xKYq6IRmqoApQ1M_XIIKQgzm-S6KIkRpB-Yz-gn_azmKrcdqMol57Gc6Ac-DRDH9ERiBDLjq6xLcJcOgV8AU58zxO17oFEaUUlsSHtqhfZmBwWKBxezHRgrbmD7GBt--Zrkr-FePTqQTA6-qC3r\/s728-e3650\/obama.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"398\" data-original-width=\"727\" title=\"falsificaciones profundas\"\/><\/div>\n<p>La tecnolog\u00eda detr\u00e1s de &#8216;Puppet Master&#8217; se basa en sintetizar la m\u00e1scara, es decir, la imagen original, y colocarla encima del modelo de la persona que est\u00e1 suplantando y sincronizando los labios.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEiUEtya6CpkDE-EvFtcQwZHOgX-iDZcZ7YrRUozvWnENjTbDWo-qoMCU9f3SVKv8W779kuOWeCtBZTZxn1-CAHoqQcCGlz7CO9oIXxAJOFHI4jnDXnW92pAPKSj1lav_cpi3uWW1ZJc8odUGVdFxAHbvi-G1tKl3yA3tdFhi9YikTwX03aj4M1rB3Ng\/s728-e3650\/deep-.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"339\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/div>\n<h3>Audio<\/h3>\n<p>El tercer tipo destacado de falsificaci\u00f3n profunda est\u00e1 basado en audio.  Las falsificaciones profundas de audio son archivos de audio que toman la voz de una persona real y hacen que suene como si estuviera diciendo algo que nunca hab\u00eda dicho.  Las falsificaciones profundas de audio se crean tomando archivos de audio, asignando anotaciones a los sonidos, entrenando un modelo ML basado en las anotaciones para asociar sonidos con texto y luego generando un nuevo archivo de audio.<\/p>\n<p>Esto es lo que suena:<\/p>\n<p><iframe loading=\"lazy\" title=\"Six U.S. Presidents Introduce the Vocal Synthesis YouTube Channel (Speech Synthesis)\" width=\"640\" height=\"360\" src=\"https:\/\/www.youtube.com\/embed\/B2HlDk-u1hQ?feature=oembed\" frameborder=\"0\" allow=\"accelerometer; autoplay; clipboard-write; encrypted-media; gyroscope; picture-in-picture; web-share\" referrerpolicy=\"strict-origin-when-cross-origin\" allowfullscreen><\/iframe><\/p>\n<h2>Falsificaciones profundas frente a arreglos baratos<\/h2>\n<p>No todas las im\u00e1genes o el audio modificados son falsificaciones profundas.  Mientras que las falsificaciones profundas son medios sintetizados o modificados con IA, las soluciones baratas son medios sintetizados o modificados con m\u00e9todos de baja tecnolog\u00eda, que son f\u00e1ciles de detectar.  A menudo tienen distorsiones y han sido claramente manipuladas.  As\u00ed es como se ve una soluci\u00f3n barata:<\/p>\n<p><img decoding=\"async\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/03\/1678114486_181_De-la-desinformacion-a-las-falsificaciones-profundas-como-los-actores.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"329\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/p>\n<h2>El riesgo cibern\u00e9tico de las falsificaciones profundas<\/h2>\n<p>Las falsificaciones profundas se han vuelto m\u00e1s realistas y accesibles, y tambi\u00e9n son m\u00e1s r\u00e1pidas de crear que nunca.  Esto los convierte en una herramienta poderosa para la militarizaci\u00f3n.  Como resultado, representan un riesgo para las empresas y para los pa\u00edses.  Pueden ser utilizados para delitos cibern\u00e9ticos, ingenier\u00eda social, fraude, por parte de naciones que amenazan para influir en operaciones extranjeras y m\u00e1s.<\/p>\n<p>Por ejemplo, se us\u00f3 deep fake para imitar la voz de un director ejecutivo y convencer a un ejecutivo de transferir $243,000 a una cuenta fraudulenta.  Etay Maor de Cato Networks &#8220;El correo electr\u00f3nico comercial comprende y<a rel=\"nofollow noopener\" href=\"https:\/\/www.catonetworks.com\/blog\/analysis-of-phishing-kill-chain-identifies-emerging-technique-that-exploits-trust-in-your-collaboration-platforms\/\" target=\"_blank\"> Los ataques de phishing son cada vez m\u00e1s dif\u00edciles de detectar<\/a> basado en un simple an\u00e1lisis del lenguaje utilizado.  Existe la necesidad de un enfoque hol\u00edstico, como el que ofrece<a rel=\"nofollow noopener\" href=\"https:\/\/www.catonetworks.com\/sase\/\" target=\"_blank\"> una soluci\u00f3n SASE de un solo proveedor<\/a>que puede detectar el ataque en diferentes cuellos de botella m\u00faltiples y no depender de productos puntuales aislados que est\u00e1n condenados a fallar&#8221;. En otro caso, se present\u00f3 una falsificaci\u00f3n profunda como prueba en un caso de custodia de menores.<\/p>\n<p>Las falsificaciones profundas tambi\u00e9n se pueden utilizar para difundir desinformaci\u00f3n, es decir, distribuci\u00f3n falsa de informaci\u00f3n para influir en la opini\u00f3n p\u00fablica u ocultar la verdad.  Por ejemplo, las falsificaciones profundas podr\u00edan usarse para hacerse pasar por l\u00edderes mundiales y provocar un ataque, o para hacerse pasar por un director ejecutivo y manipular el precio de las acciones de una empresa.  En otros casos, las falsificaciones profundas permiten una negaci\u00f3n plausible, en la que las personas pueden negar todas las fuentes de los medios al afirmar que son falsificaciones profundas, lo que crea un abuso de confianza social.<\/p>\n<p>Finalmente, el deep fake puede usarse para difamar, es decir, da\u00f1ar la buena reputaci\u00f3n de alguien.  Por ejemplo, creando porno de venganza.<\/p>\n<h2>C\u00f3mo detectar falsificaciones profundas<\/h2>\n<p>Hay dos tipos principales de m\u00e9todos para detectar con precisi\u00f3n falsificaciones profundas:<\/p>\n<ul>\n<li>M\u00e9todos de detecci\u00f3n de bajo nivel<\/li>\n<li>M\u00e9todos de detecci\u00f3n de alto nivel<\/li>\n<\/ul>\n<h3>M\u00e9todos de detecci\u00f3n de bajo nivel<\/h3>\n<p>Los m\u00e9todos de detecci\u00f3n de bajo nivel se basan en modelos ML que est\u00e1n entrenados para identificar artefactos o pixelaciones que se introdujeron a trav\u00e9s del proceso de generaci\u00f3n de falsificaciones profundas.  Estos artefactos pueden ser imperceptibles para el ojo humano, pero los modelos, que fueron entrenados con im\u00e1genes reales e im\u00e1genes falsas profundas, pueden detectarlos.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEgQTz_iR2dIkWK_txtGeY-AT3KJmK32-bfpvvyBmmUB01V-6xxqvkqHncyE8E_ktU-jf0sn3A3RxNhsHUgrhKLY0JdH-jiaXdI2Lljipj1DOFBMurlljNgnED4LmldMBDA-NJxhPBlvxBkf-RUhS4P6e6hgkXRvmsJIeIFujBD3PRRVLoAEoZ191AFH\/s728-e3650\/vid.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"137\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/div>\n<h3>M\u00e9todos de detecci\u00f3n de alto nivel<\/h3>\n<p>Los m\u00e9todos de detecci\u00f3n de alto nivel utilizan modelos que pueden identificar caracter\u00edsticas sem\u00e1nticamente significativas.  Estos incluyen movimientos no naturales, como parpadeo, pose de cabeza o gestos \u00fanicos, y desajustes de fonema-visema.<\/p>\n<div class=\"separator\" style=\"clear: both;\"><img decoding=\"async\" src=\"https:\/\/thehackernews.com\/new-images\/img\/b\/R29vZ2xl\/AVvXsEgIlZU328XDBCIRhf47rZ8DNszyYJsbAAeEI-unBZTlAYqKY4OWdXD2HcPR0zelfe4G6-81h73VpmQklQVd6nw-deMKF1oq_d72GJMKdGeJhPXsh0wxY4QwhGP-BrzV-g42nUGT9WU6-D7xH72v5zOm6RjAP0xWwB8hSWcjjhvQJQK1gkFYwdZPmuKe\/s728-e3650\/obama-2.png\" alt=\"falsificaciones profundas\" border=\"0\" data-original-height=\"157\" data-original-width=\"728\" title=\"falsificaciones profundas\"\/><\/div>\n<p>Hoy en d\u00eda, estos m\u00e9todos de detecci\u00f3n se consideran precisos.  Sin embargo, a medida que la tecnolog\u00eda deep fake mejora y se vuelve m\u00e1s sofisticada, se espera que se vuelvan menos efectivas y deber\u00e1n actualizarse y mejorarse.  Adem\u00e1s de estas t\u00e9cnicas, cada uno de nosotros puede ayudar a detectar falsificaciones profundas al verificar la fuente de medios de los videos e im\u00e1genes que recibimos.<\/p>\n<p style=\"text-align: left;\"><b>Para obtener m\u00e1s informaci\u00f3n sobre los diferentes tipos de ataques de ciberseguridad y c\u00f3mo prevenirlos, <a rel=\"nofollow noopener\" href=\"https:\/\/catonetworks.easywebinar.live\/registration-81\" target=\"_blank\">La serie de clases magistrales de seguridad cibern\u00e9tica de Cato Networks est\u00e1 disponible para su visualizaci\u00f3n.<\/a><\/b><\/p>\n<p><\/p>\n<div class=\"cf note-b\">\u00bfEncontraste este art\u00edculo interesante?  Siga con nosotros <a rel=\"nofollow noopener\" href=\"https:\/\/twitter.com\/thehackersnews\" target=\"_blank\">Gorjeo <i class=\"icon-font icon-twitter\">\uf099<\/i><\/a>  y <a rel=\"nofollow noopener\" href=\"https:\/\/www.linkedin.com\/company\/thehackernews\/\" target=\"_blank\">LinkedIn<\/a> para leer m\u00e1s contenido exclusivo que publicamos.<\/div>\n<\/div>\n<p><script async src=\"https:\/\/platform.twitter.com\/widgets.js\" charset=\"utf-8\"><\/script><br \/>\n<br \/><br \/>\n<br \/><a href=\"https:\/\/thehackernews.com\/2023\/03\/from-disinformation-to-deep-fakes-how.html\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-57<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Se espera que las falsificaciones profundas se conviertan en un vector de ataque m\u00e1s prominente. Aqu\u00ed se explica<\/p>\n","protected":false},"author":1,"featured_media":658025,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[9],"tags":[3588,4657,4656,8898,4661,440,4664,5773,34142,4662,4668,246,4667,36,23180,4654,4658,4659,4653,4655,22910,4663,2862,4666,4665,4660],"class_list":["post-658022","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia","tag-actores","tag-actualizaciones-ciberneticas","tag-actualizaciones-de-seguridad-cibernetica","tag-amenazas","tag-ataques-ciberneticos","tag-como","tag-como-hackear","tag-desinformacion","tag-falsificaciones","tag-filtracion-de-datos","tag-la-seguridad-informatica","tag-las","tag-las-noticias-de-los-hackers","tag-los","tag-manipulan","tag-noticias-ciberneticas","tag-noticias-de-hackers","tag-noticias-de-pirateria","tag-noticias-de-seguridad-cibernetica","tag-noticias-de-seguridad-cibernetica-hoy","tag-profundas","tag-programa-malicioso-ransomware","tag-realidad","tag-seguridad-de-informacion","tag-seguridad-de-la-red","tag-vulnerabilidad-de-software"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/658022","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=658022"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/658022\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/658025"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=658022"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=658022"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=658022"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}