OpenAI dijo el mi\u00e9rcoles que ha interrumpido m\u00e1s de 20 operaciones y redes enga\u00f1osas en todo el mundo que intentaron utilizar su plataforma con fines maliciosos desde principios de a\u00f1o.<\/p>\n
Esta actividad inclu\u00eda depurar malware, escribir art\u00edculos para sitios web, generar biograf\u00edas para cuentas de redes sociales y crear im\u00e1genes de perfil generadas por IA para cuentas falsas en X.<\/p>\n
“Los actores de amenazas contin\u00faan evolucionando y experimentando con nuestros modelos, pero no hemos visto evidencia de que esto conduzca a avances significativos en su capacidad para crear malware sustancialmente nuevo o construir audiencias virales”, dijo la compa\u00f1\u00eda de inteligencia artificial (IA). dicho<\/a>.<\/p>\n Tambi\u00e9n dijo que interrumpi\u00f3 la actividad que generaba contenido en las redes sociales relacionado con las elecciones en Estados Unidos, Ruanda y, en menor medida, India y la Uni\u00f3n Europea, y que ninguna de estas redes atrajo una participaci\u00f3n viral o audiencias sostenidas.<\/p>\n Esto incluy\u00f3 los esfuerzos realizados por una empresa comercial israel\u00ed llamada STOIC (tambi\u00e9n denominada Zero Zeno) que gener\u00f3 comentarios en las redes sociales sobre las elecciones indias, como lo revelaron anteriormente Meta y OpenAI a principios de mayo.<\/p>\n Algunas de las operaciones cibern\u00e9ticas destacadas por OpenAI son las siguientes:<\/p>\n Por otra parte, la compa\u00f1\u00eda dijo que tom\u00f3 medidas para bloquear varios grupos, incluida una operaci\u00f3n de influencia con nombre en c\u00f3digo A2Z y Stop News, de cuentas que generaban contenido en ingl\u00e9s y franc\u00e9s para su posterior publicaci\u00f3n en varios sitios web y cuentas de redes sociales en varias plataformas.<\/p>\n “[Stop News] fue inusualmente prol\u00edfico en el uso de im\u00e1genes”, dijeron los investigadores Ben Nimmo y Michael Flossman. “Muchos de sus art\u00edculos web y tweets iban acompa\u00f1ados de im\u00e1genes generadas con DALL\u00b7E. Estas im\u00e1genes a menudo ten\u00edan estilo de dibujos animados y usaban paletas de colores brillantes o tonos dram\u00e1ticos para atraer la atenci\u00f3n”.<\/p>\n Se ha descubierto que otras dos redes identificadas por OpenAI Bet Bot y Corrupt Comment utilizan su API para generar conversaciones con usuarios en X y enviarles enlaces a sitios de apuestas, as\u00ed como para fabricar comentarios que luego se publicaron en X, respectivamente.<\/p>\n La divulgaci\u00f3n se produce casi dos meses despu\u00e9s de que OpenAI prohibiera un conjunto de cuentas vinculadas a una operaci\u00f3n de influencia encubierta iran\u00ed llamada Storm-2035 que aprovechaba ChatGPT para generar contenido que, entre otras cosas, se centraba en las pr\u00f3ximas elecciones presidenciales de Estados Unidos.<\/p>\n “Los actores de amenazas utilizaron con mayor frecuencia nuestros modelos para realizar tareas en una fase intermedia espec\u00edfica de la actividad, despu\u00e9s de haber adquirido herramientas b\u00e1sicas como acceso a Internet, direcciones de correo electr\u00f3nico y cuentas de redes sociales, pero antes de implementar productos ‘terminados’ como las redes sociales. publicaciones o malware a trav\u00e9s de Internet a trav\u00e9s de una variedad de canales de distribuci\u00f3n”, escribieron Nimmo y Flossman.<\/p>\n La empresa de ciberseguridad Sophos, en un informe publicado la semana pasada, dijo que se podr\u00eda abusar de la IA generativa para difundir informaci\u00f3n err\u00f3nea personalizada mediante correos electr\u00f3nicos microdirigidos.<\/p>\n Esto implica abusar de los modelos de IA para inventar sitios web de campa\u00f1as pol\u00edticas, personas generadas por IA en todo el espectro pol\u00edtico y mensajes de correo electr\u00f3nico dirigidos espec\u00edficamente a ellos en funci\u00f3n de los puntos de la campa\u00f1a, permitiendo as\u00ed un nuevo nivel de automatizaci\u00f3n que hace posible difundir informaci\u00f3n err\u00f3nea a escala. .<\/p>\n “Esto significa que un usuario podr\u00eda generar cualquier cosa, desde material de campa\u00f1a benigno hasta informaci\u00f3n err\u00f3nea intencionada y amenazas maliciosas con una reconfiguraci\u00f3n menor”, afirman los investigadores Ben Gelman y Adarsh \u200b\u200bKyadige. dicho<\/a>.<\/p>\n “Es posible asociar cualquier movimiento pol\u00edtico o candidato real con el apoyo a cualquier pol\u00edtica, incluso si no est\u00e1n de acuerdo. La desinformaci\u00f3n intencional como esta puede hacer que las personas se alineen con un candidato que no apoyan o no est\u00e9n de acuerdo con uno que pensaban que les gustaba. “<\/p>\n <\/p>\n![\"Ciberseguridad\"](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2024\/10\/OpenAI-bloquea-20-campanas-maliciosas-globales-que-utilizan-IA-para.png\")
<\/a><\/center><\/div>\n\n
\n
\n
<\/a><\/center><\/div>\n