Openai el viernes reveló que prohibió un conjunto de cuentas que utilizan su herramienta CHATGPT para desarrollar una sospecha herramienta de vigilancia de inteligencia artificial (IA).
Se dice que la herramienta de escucha en las redes sociales probablemente se origina en China y está impulsada por uno de los meta Modelos de llamascon las cuentas en cuestión utilizando los modelos de la compañía de IA para generar descripciones detalladas y analizar documentos para un aparato capaz de recopilar datos en tiempo real e informes sobre protestas anti-china en Occidente y compartir las ideas con las autoridades chinas.
La campaña ha sido nombrada revisión por pares debido al “comportamiento de la red en la promoción y revisión de herramientas de vigilancia”, observaron los investigadores Ben Nimmo, Albert Zhang, Matthew Richard y Nathaniel Hartley, agregando que la herramienta está diseñada para ingerir y analizar publicaciones y comentarios de plataformas de plataformas y plataformas de plataformas como X, Facebook, YouTube, Instagram, Telegram y Reddit.
En un caso marcado por la compañía, los actores usaron ChatGPT para depurar y modificar el código fuente que se cree que ejecuta el software de monitoreo, denominado “Asistente de IA de AI de la opinión pública de la Opinión del Extranjero de Qianyue”.
Además de utilizar su modelo como herramienta de investigación para superficie la información disponible públicamente sobre los think tanks en los Estados Unidos, y los funcionarios del gobierno y los políticos en países como Australia, Camboya y Estados Unidos también se ha encontrado que el clúster aproveche el acceso de Chatgpt para leer,, Traducir y analizar capturas de pantalla de documentos en inglés.
Algunas de las imágenes fueron anuncios de protestas de los derechos de Uyghur en varias ciudades occidentales, y probablemente fueron copiadas de las redes sociales. Actualmente no se sabe si estas imágenes eran auténticas.
Operai también dijo que interrumpió varios otros grupos que se encontraron abusando de Chatgpt para varias actividades maliciosas,
- Esquema de empleo engañoso – Una red de Corea del Norte vinculada al esquema de trabajadores de TI fraudulentos que estuvo involucrado en la creación de documentación personal para solicitantes de empleo ficticios, como currículums, perfiles de trabajo en línea y cartas de presentación, así como respuestas convincentes para explicar comportamientos inusuales como Evitar videollamadas, acceder a sistemas corporativos desde países no autorizados o trabajar horas irregulares. Algunas de las aplicaciones de empleo falsas se compartieron en LinkedIn.
- Descontento patrocinado – Una red probable de origen chino que estuvo involucrado en la creación de contenido de redes sociales en inglés y artículos de forma larga en español que criticaron a los Estados Unidos, y posteriormente publicada por sitios web de noticias latinoamericanas en Perú, México y Ecuador. Parte de la actividad se superpone con un clúster de actividad conocido denominado Spamuflage.
- Estafa – Una red de cuentas involucradas en la traducción y generación de comentarios en japonés, chino e inglés para publicar en plataformas de redes sociales, incluidas Facebook, X e Instagram en relación con las presuntas estafas de romance de origen de Camboya e Inversión.
- Influencia iraní Nexus -Una red de cinco cuentas involucradas en la generación de publicaciones y artículos que eran pro-palestinos, pro-hamas y pro-iran, y anti-israel y anti-us, y compartían sitios web asociados con una influencia iraní. Las operaciones rastrearon como la Unión Internacional de Medios Virtuales (IUVM) y Storm-2035. Una de las cuentas prohibidas se usó para crear contenido para ambas operaciones, indicativas de una “relación previamente no reportada”.
- Kimsuky y Bluenoroff -Una red de cuentas operadas por actores de amenaza de Corea del Norte que participó en la recopilación de información relacionada con las herramientas de intrusión cibernética y los temas relacionados con la criptomonedas, y el código de depuración para ataques de fuerza bruta de protocolo de escritorio remoto (RDP)
- Iniciativa juvenil Operación de influencia encubierta – Una red de cuentas que participó en la creación de artículos en inglés para un sitio web llamado “Empoderando a Ghana” y comentarios de las redes sociales dirigidas a las elecciones presidenciales de Ghana
- Estafa – Una red de cuentas que probablemente se originan en Camboya que estuvo involucrada en la traducción de comentarios entre urdu e inglés como parte de un estafa que atrae a las personas desprevenidas a los trabajos que realizan tareas simples (por ejemplo, videos que les gustan o escriben reseñas) a cambio de obtener una comisión inexistente, accediendo, lo que requiere que las víctimas se separen de su propio dinero.
El desarrollo se produce cuando las herramientas de IA están siendo utilizadas cada vez más por los malos actores para facilitar Campañas de desinformación habilitadas para ciber y otras operaciones maliciosas.
El mes pasado, el Grupo de Inteligencia de Amenazos de Google (GTIG) reveló que más de 57 actores de amenaza distintos con lazos con China, Irán, Corea del Norte y Rusia usaron su chatbot Gemini AI para mejorar múltiples fases del ciclo de ataque y realizar investigaciones sobre eventos de actualidad, o Realice la creación de contenido, la traducción y la localización.
“Las ideas únicas que las compañías de IA pueden obtener de los actores de amenaza son particularmente valiosos si se comparten con proveedores aguas arriba, como el alojamiento y los desarrolladores de software, las plataformas de distribución posteriores, como las compañías de redes sociales e investigadores de código abierto”, dijo OpenAI.
“Igualmente, las ideas que los proveedores e investigadores aguas arriba y aguas abajo tienen sobre los actores de amenaza abren nuevas vías de detección y aplicación de las compañías de IA”.
About the Author
