La creciente amenaza de los ataques AI en Gmail
La preocupación entre los usuarios de Gmail ha aumentado debido a un nuevo tipo de ciberamenaza. Se ha reportado que los hackers están utilizando la inteligencia artificial (IA) para infiltrarse en las cuentas de correo electrónico. Sin embargo, esta amenaza no es exclusiva de Google, lo que resalta cómo la inyección de comandos en IA se está convirtiendo en un problema cada vez más peligroso.
La empresa ha emitido advertencias sobre la necesidad de implementar protecciones urgentes para evitar que instrucciones maliciosas lleguen a los correos electrónicos y las invitaciones del calendario.
¿Cómo funcionan estos ataques AI en Gmail?
Investigadores en seguridad han descubierto cómo los hackers pueden aprovechar la IA para acceder a cuentas de Gmail. El ataque generalmente comienza con una invitación de calendario falsa que el usuario no necesita aceptar. Luego, el asistente de IA del usuario revisa el calendario y, sin que el usuario se dé cuenta, sigue instrucciones ocultas que permiten revisar correos electrónicos y enviar información privada a la dirección del atacante, según un informe de Forbes.
Por ejemplo, Eito Miyamura publicó en X un vídeo que demuestra este ataque, afirmando: “Logramos que ChatGPT filtrara tus datos de correo electrónico privados. ¿Todo lo que necesitas? La dirección de correo del víctima”. Advierte que, “como los agentes de IA como ChatGPT siguen tus comandos y no tu sentido común, logramos extraer toda tu información privada solo con tu correo electrónico”.
La inyección de comandos es un tipo de ataque cibernético en el que se ocultan instrucciones dentro de correos electrónicos, archivos o invitaciones. Los sistemas de IA a menudo siguen estas instrucciones sin cuestionarlas, incluso cuando los usuarios no pueden verlas, lo que los convierte en herramientas útiles para los hackers.
¿Qué defensas ha implementado Google?
Google ha reconocido que la amenaza es real y afecta a toda la industria, no solo a Gmail. “Esto ilustra por qué es crucial desarrollar protecciones robustas contra los ataques de inyección de comandos”, declaró la compañía.
En este sentido, Google ha afirmado que sus modelos Gemini 2.5 cuentan con mejores protecciones gracias a que han sido entrenados con datos de intentos de hackeo. Además, también utilizan aprendizaje automático para bloquear comandos maliciosos en correos electrónicos, archivos adjuntos e invitaciones de calendario. Los sistemas de clasificación de Google son capaces de identificar instrucciones dañinas y hacer caso omiso de ellas, lo que evita que la IA realice acciones peligrosas.
La empresa sostiene que está “desplegando modelos de aprendizaje automático propietarios que pueden detectar comandos e instrucciones maliciosas en varios formatos, como mensajes de correo electrónico y archivos”. Los sistemas de protección integrados de Gmail también mantienen fuera el más del 99.9% de correo no deseado, intentos de phishing y malware.
¿Cómo pueden las personas mantener sus cuentas seguras?
A pesar de que las defensas mediante IA están mejorando, la configuración del usuario sigue siendo un importante nivel de protección. Google recomienda que los usuarios activen la configuración de “remitentes conocidos” en Google Calendar de modo que las invitaciones de personas desconocidas no aparezcan automáticamente.
“Este enfoque ha demostrado ser particularmente efectivo para ayudar a los usuarios a prevenir eventos maliciosos o de spam en su calendario. La invitación específica no habría llegado automáticamente a menos que el usuario hubiera tenido interacciones previas con el actor malicioso o haya cambiado las configuraciones predeterminadas”.
Este paso disminuye enormemente la posibilidad de que ocurran ataques de inyección de comandos mediante eventos maliciosos.
Los expertos también enfatizan que se debe tener cuidado al utilizar asistentes de IA. Incluso herramientas potentes como ChatGPT pueden ser utilizadas para obtener información sensible si los atacantes obtienen acceso a una dirección de correo electrónico. El hackeo en Gmail es un recordatorio de lo vulnerables que pueden ser las nuevas tecnologías, ya que los malignos están listos para aprovecharlas.
La combinación de las defensas multilayer de Google y un uso consciente por parte de los usuarios será fundamental para adelantarse a esta creciente amenaza cibernética.
FAQs
¿Qué hace el hackeo AI en Gmail?
Engaña a los asistentes de IA para filtrar correos electrónicos privados enviándoles invitaciones de calendario dañinas.
¿Qué deberían hacer primero los usuarios de Gmail?
Para evitar recibir invitaciones no deseadas, activen la configuración de “remitentes conocidos” en Google Calendar.
About the Author
