EL Herramientas de IA generativas A medida que Google Gemini se convierte en recursos preciosos para varios actores amenazantes. Los análisis recientes de Google revelan un uso creciente de estas IA por piratas informáticos patrocinados por estados como China, Corea del Norte, Irán y Rusia. Estos grupos intentan explotar estas herramientas para optimizar sus ataques cibernéticos mientras minimizan su detección.
Anuncio
Irán en la línea del frente
Según el informe de Google, Irán es particularmente activo en el uso de AI para acciones maliciosas. En particular, se han identificado diez grupos separados utilizando Gemini para crear contenido de phishing dirigido. La Banda de Hackers APT42 es uno de estos grupos prolíficos. También tienen capacidad para crear campañas influyentes en línea gracias a la IA.
Además de Google, otras compañías están atacadas. Por ejemplo, los actores iraníes también usan Microsoft AI para llevar a cabo sus operaciones. Su objetivo principal es a menudo recopilar información confidencial sobre tecnologías militares y nucleares específicas.
Maniobras chinas
El compromiso de los grupos chinos con las herramientas de IA también es preocupante. Este último explota principalmente estas tecnologías para reconocer las organizaciones militares y gubernamentales estadounidenses. Buscan descubrir fallas de seguridad, facilitando así sus movimientos laterales y la escalada de privilegios dentro de las redes comprometidas.
Además, usan Gemini para buscar vulnerabilidades conocidas públicamente, fortaleciendo así su nivel potencial de amenaza a nivel global.
Tácticas de Corea del Norte
Para Corea del Norte, las estrategias difieren ligeramente. Aquí, la IA se usa no solo para las fases clásicas del ciclo de ataque sino también para propósitos más únicos, como la redacción de candidatos y cartas de presentación. Esto les permitiría insertar clandestinamente a los trabajadores en las empresas occidentales bajo identidades falsas.
Los piratas de Corea del Norte también enfocan sus esfuerzos en obtener información relacionada con la tecnología militar y nuclear de Corea del Sur. Este enfoque permite que Pyongyang permanezca vigilante y bien informado sobre los desarrollos técnicos de sus rivales.
Acciones mínimas en Rusia
A diferencia de otros países, la actividad de los grupos rusos con herramientas como Gemini parece limitada. Según Google, solo se han identificado tres grupos hasta ahora. Esta baja participación puede explicarse por una menor popularidad de los modelos lingüísticos (LLM) en este país, o por preferencia por LLM local en lugar de los ofrecidos por Google.
Sus usos incluyen principalmente asistencia en la escritura de guiones, traducción y manualidades de cargos útiles. Además, parece que se centran más en la reconfiguración del software malicioso disponible públicamente en diferentes lenguajes de programación.
A pesar de las crecientes preocupaciones de la desviación de la IA generativa, el mercado continúa llenando nuevos modelos, a veces insuficientemente seguros para evitar el abuso. Recientemente, Openai dijo que algunos de sus productos sufren problemas de “jailbreak” en los que los usuarios pueden evitar las restricciones de seguridad establecidas.
Del mismo modo, otras firmas de inteligencia de ciberseguridad, como Kela, indican una subida de solicitudes de personalización de IA para usos sin escrúpulos. Los investigadores de la Unidad 42, por su parte, demuestran continuamente métodos que le permiten abusar fácilmente de estas poderosas herramientas.
About the Author
