Los grupos de hackers utilizan la inteligencia artificial generativa como herramienta para realizar ciberataques.
Fuente: DALLE-E / David Metzmacher
Trabajando con Microsoft Threat Intelligence, desbaratamos cinco actores vinculados al estado que buscaban utilizar servicios de inteligencia artificial para respaldar actividades cibernéticas maliciosas.
Abierto AI
“Eso es una gota en el océano”, afirma Nicolas Müller, investigador asociado del Instituto Fraunhofer de Seguridad Aplicada e Integrada (AISEC).
Esto tiene mucho significado simbólico, pero los hackers ya tendrán la siguiente cuenta.
Nicolas Müller, investigador asociado de Fraunhofer AISEC
¿Qué pasó?
OpenAI, la compañía detrás de ChatGPT, y Microsoft dicen que han bloqueado cuentas de cinco grupos de hackers:
¿Qué grupos de hackers se ven afectados?
… es un actor de inteligencia ruso. Microsoft cree que las operaciones de Forest Blizzard desempeñan un papel de apoyo a la política exterior y los objetivos militares de Rusia tanto en Ucrania como en la comunidad internacional en general. El grupo utilizó los servicios de ChatGPT para realizar investigaciones sobre protocolos de comunicaciones por satélite y tecnologías de imágenes de radar, así como para ayudar con tareas de programación.
… es de Corea del Norte, el grupo estuvo “extremadamente activo” en 2023, según Microsoft. El grupo utilizó los servicios de ChatGPT para identificar expertos y organizaciones centradas en cuestiones de defensa en la región de Asia y el Pacífico. También implicó comprender las vulnerabilidades disponibles públicamente, ayudar con tareas de codificación y diseñar contenido que podría usarse en campañas de phishing.
… es de Irán y está asociado con la Guardia Revolucionaria Iraní. El grupo utilizó los servicios de soporte de secuencias de comandos ChatGPT relacionados con el desarrollo web y de aplicaciones para generar contenido que probablemente estaba destinado a ser utilizado en campañas de phishing. Otro objetivo: investigar métodos comunes sobre cómo el malware podría evadir la detección.
… es un grupo de piratería afiliado al estado chino que utilizó ChatGPT para investigar empresas y herramientas de ciberseguridad, encontrar errores en el código y generar scripts. Otro objetivo: crear contenido que probablemente estuviera destinado a campañas de phishing.
Fuente: ZDF/Microsoft
¿Cómo se enteraron Microsoft y OpenAI de la existencia de los piratas informáticos?
Para identificar grupos de piratas informáticos, ayuda la asociación de OpenAI con Microsoft. El grupo dispone de su propio equipo para estos casos:
Microsoft Threat Intelligence rastrea a más de 300 actores de amenazas, incluidos 160 actores estatales, 50 grupos de ransomware y muchos otros.
microsoft
Según Microsoft, el equipo incluye expertos con experiencia en ciberseguridad y también se utilizan sistemas automatizados. El objetivo: descubrir anomalías, es decir, comportamientos inusuales del usuario que sugieran un uso inadecuado.
OpenAI y Microsoft conocen millones de cuentas ChatGTP, lo que significa que tienen una muy buena imagen del comportamiento de uso promedio.
Nicolas Müller, investigador asociado de Fraunhofer AISEC
Las empresas recopilaron metadatos como tiempos de uso, frecuencia de solicitudes o el desglose de temas sobre los que un usuario interactúa con ChatGPT, explica Müller. Destacan los desviados. “Microsoft analiza esto más de cerca y puede identificar el uso indebido”.
Un ejemplo: Se registra una cuenta ChatGTP con una tarjeta de crédito alemana, pero la dirección IP conduce a otro país, los tiempos de uso no coinciden con el horario alemán o las solicitudes se realizan en ruso. “De esta manera se pueden identificar cuentas robadas”, explica Müller. Puedes imaginar esto como detectar un fraude con tarjetas de crédito.
¿Qué hicieron los grupos de hackers con ChatGPT?
Los cinco grupos de hackers a veces utilizaban ChatGPT de forma similar a como lo hacen las empresas o los particulares. Sin embargo, explotaron las posibilidades que ofrecía el chatbot con fines abusivos.
Las cuentas crearon contenido cuestionable utilizando ChatGPT, como campañas de phishing, códigos de virus y malware.
Nicolas Müller, investigador asociado de Fraunhofer AISEC
Fuente: Fraunhofer AISEC / Oliver Rüther
Fuente: Fraunhofer AISEC
Müller, experto en seguridad informática, ve dos áreas en las que los grupos de hackers utilizan la IA generativa:
- Escalado y automatización: Las tareas simples y desagradables se pueden completar más rápidamente: como escribir correos electrónicos de phishing, buscar documentos o verificar el código de programación. Estas son tareas que antes las personas individuales podían realizar, pero no con la misma rapidez.
- Nuevas aplicaciones: “ChatGPT también permite tareas que antes no eran tan fáciles”, afirma Müller. Por ejemplo, si el contenido se va a traducir a un idioma extranjero o el código se va a ofuscar con malware (una ocultación del código que dificulta la lectura de su propósito).
¿Qué impide que los grupos abran cuentas nuevas fácilmente?
Para una cuenta con acceso al modelo más potente de ChatGPT, se debe proporcionar un método de pago y una dirección de correo electrónico. “Si se bloquea la cuenta, se queman”, afirma Müller.
Sin embargo, Müller supone que los grupos de hackers no tienen una sola cuenta. Por lo tanto, el bloqueo de Microsoft no le restringirá demasiado. Además, ahora es bastante fácil conseguir una cuenta nueva:
Hay estudios que muestran que decenas de miles de cuentas ChatGPT ahora están disponibles para la venta gratuitamente en la web oscura.
Nicolas Müller, investigador asociado de Fraunhofer AISEC
¿Pueden los sistemas de TI también volverse más seguros gracias a la IA generativa?
Por el contrario, los expertos en seguridad informática también pueden utilizar ChatGPT u otras aplicaciones para protegerse de los piratas informáticos. Según Müller, las posibles vulnerabilidades, por ejemplo en los servidores de correo electrónico, podrían detectarse y solucionarse más fácilmente. “La IA generativa debería considerarse una herramienta”, afirma Müller.
Antes los árboles se talaban con hacha, luego vino la motosierra. Si no los usas, te quedarás atrás, pero si todos los leñadores usan la motosierra, el campo de juego volverá a estar nivelado.
Nicolas Müller, investigador asociado de Fraunhofer AISEC
About the Author
