Dondequiera que haya habido conflicto en el mundo, la propaganda nunca ha estado muy lejos. Viaje en el tiempo a 515 a. C. y lea la inscripci\u00f3n de Behistun, una autobiograf\u00eda del rey persa Dar\u00edo que discute su ascenso al poder. M\u00e1s recientemente, vea c\u00f3mo los diferentes peri\u00f3dicos informan sobre las guerras, donde se dice: “La primera v\u00edctima es la verdad”. <\/p>\n
Si bien estas formas de comunicaci\u00f3n podr\u00edan dar forma a las creencias de las personas, tambi\u00e9n tienen limitaciones en torno a la escalabilidad. Cualquier mensajer\u00eda y propaganda a menudo perder\u00eda su poder despu\u00e9s de viajar una cierta distancia. Por supuesto, con las redes sociales y el mundo en l\u00ednea hay pocos l\u00edmites f\u00edsicos en el alcance, aparte de donde cae la conexi\u00f3n a Internet de alguien. Agregue el surgimiento de la IA, y tampoco hay nada para detener la escalabilidad. <\/p>\n
Este art\u00edculo explora lo que esto significa para las sociedades y las organizaciones que enfrentan Manipulaci\u00f3n de informaci\u00f3n con IA<\/a> y enga\u00f1o.<\/p>\n Seg\u00fan el Centro de Investigaci\u00f3n Pew, alrededor de uno de cada cinco estadounidenses reciben sus noticias de las redes sociales. En Europa, ha habido un Aumento del 11% en las personas que usan plataformas de redes sociales para acceder a las noticias<\/a>. Los algoritmos de IA est\u00e1n en el coraz\u00f3n de este cambio de comportamiento. Sin embargo, no est\u00e1n obligados a presentar ambos lados de una historia, en la forma en que los periodistas est\u00e1n capacitados y que los reguladores de medios requieren. Con menos restricciones, las plataformas de redes sociales pueden centrarse en servir contenido a los que a sus usuarios les gusta, desean y reaccionan.<\/p>\n Este enfoque en mantener los globos oculares puede conducir a una c\u00e1mara de eco digital y puntos de vista potencialmente polarizados. Por ejemplo, las personas pueden bloquear las opiniones con las que no est\u00e1n de acuerdo, mientras que el algoritmo ajusta autom\u00e1ticamente los alimentos de los usuarios, incluso monitoreando la velocidad de desplazamiento, para aumentar el consumo. Si los consumidores solo ven contenido con el que est\u00e1n de acuerdo, est\u00e1n llegando a un consenso con lo que AI les est\u00e1 mostrando, pero no con el mundo en general. <\/p>\n Adem\u00e1s, m\u00e1s de ese contenido ahora se est\u00e1 generando sint\u00e9ticamente utilizando herramientas de IA. Esto incluye m\u00e1s de 1,150 sitios web de noticias generados por IA poco confiables identificados recientemente por NewsGuard, una compa\u00f1\u00eda especializada en confiabilidad de la informaci\u00f3n. Con pocas limitaciones para la capacidad de producci\u00f3n de AI, los procesos pol\u00edticos de larga data est\u00e1n sintiendo el impacto.<\/p>\n Es justo decir que los humanos somos impredecibles. Nuestros m\u00faltiples sesgos e innumerables contradicciones se desarrollan constantemente en cada uno de nuestros cerebros. Donde miles de millones de neuronas hacen nuevas conexiones que dan forma a las realidades y, a su vez, nuestras opiniones. Cuando los actores maliciosos agregan IA a esta potente mezcla, esto lleva a eventos como:<\/p>\n Todav\u00eda es posible identificar muchos enga\u00f1os con IA. Ya sea de un marco fallido en un video o una palabra mal pronunciada en un discurso. Sin embargo, a medida que avanza la tecnolog\u00eda, se volver\u00e1 m\u00e1s dif\u00edcil, incluso imposible separar los hechos de la ficci\u00f3n. <\/p>\n Los verificadores de datos pueden adjuntar seguimientos a las publicaciones falsas de las redes sociales. Los sitios web como Snopes pueden continuar desacreditando las teor\u00edas de conspiraci\u00f3n. Sin embargo, no hay forma de asegurarse de que estos vieran todos los que vieron las publicaciones originales. Tambi\u00e9n es bastante imposible encontrar la fuente original de material falso, debido a la cantidad de canales de distribuci\u00f3n disponibles. <\/p>\n Ver (o escuchar) es creer. Lo creer\u00e9 cuando lo vea. Mu\u00e9strame, no me digas. Todas estas frases se basan en la comprensi\u00f3n evolutiva del mundo humano del mundo. A saber, que elegimos confiar en nuestros ojos y o\u00eddos. <\/p>\n Estos sentidos han evolucionado durante cientos, incluso millones de a\u00f1os. Mientras que ChatGPT se lanz\u00f3 p\u00fablicamente en noviembre de 2022. Nuestros cerebros no pueden adaptarse a la velocidad de la IA, por lo que si las personas ya no pueden confiar en lo que est\u00e1 frente a ellos, es hora de educar a los ojos, o\u00eddos y mentes de todos. <\/p>\n De lo contrario, esto deja a las organizaciones abiertas al ataque. Despu\u00e9s de todo, el trabajo a menudo es donde las personas pasan m\u00e1s tiempo en una computadora. Esto significa equipar las fuerzas laborales con conciencia, conocimiento y escepticismo cuando se enfrenta al contenido dise\u00f1ado para generar acci\u00f3n. Si eso contiene mensajes pol\u00edticos en el momento de las elecciones, o pidiendo a un empleado que evite los procedimientos y realice un pago a una cuenta bancaria no verificada. <\/p>\n Significa hacer que las sociedades sean conscientes de las muchas formas en que los actores maliciosos juegan en sesgos naturales, emociones e instintos para creer lo que alguien est\u00e1 diciendo. Estos se desarrollan en m\u00faltiples ataques de ingenier\u00eda social, incluido el phishing (‘el tipo de crimen de Internet n\u00famero uno’ seg\u00fan el FBI).<\/p>\n Y significa apoyar a las personas para saber cu\u00e1ndo hacer una pausa, reflexionar y desafiar lo que ven en l\u00ednea. Una forma es simular un ataque con IA, para que obtengan experiencia de primera mano de c\u00f3mo se siente y qu\u00e9 tener en cuenta. Los humanos dan forma a la sociedad, solo necesitan ayuda para defenderse, las organizaciones y las comunidades contra el enga\u00f1o con IA.<\/p>\nEl surgimiento de la c\u00e1mara de eco<\/h2>\n
C\u00f3mo se est\u00e1 desplegando AI para el enga\u00f1o<\/h2>\n
\n
El impacto de la IA en los procesos democr\u00e1ticos<\/h2>\n
Ritmo de evoluci\u00f3n<\/h2>\n
![\"\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2025\/02\/El-engano-con-IA-es-una-amenaza-para-nuestras-sociedades.png\")