La inteligencia artificial (IA) está experimentando un ascenso meteórico en todos los ámbitos. La ciberseguridad no se salva. Desde hace varios años, esta innovación ha revolucionado la productividad de los empleados y las defensas de TI, pero también el juego de los ataques. A veces, gran aliado de los especialistas del sector, a veces, una fuerza formidable para los piratas informáticos, la IA es un arma de doble filo. Para comprender mejor esta tecnología multifacética, siglo digital conoció a Robin Kwiatkowski, investigador de ciberseguridad en kasperskylíder mundial en soluciones y servicios de ciberseguridad.
Innovación que cambia la industria
Muchas empresas de todos los sectores están recurriendo ahora a la inteligencia artificial para agilizar procesos y procesar grandes cantidades de información con mayor rapidez. Estas son algunas de las razones por las que kaspersky ha estado utilizando esta tecnología durante varios años. » Hay una gran cantidad de datos que se informan y actividades que son maliciosas. Por lo tanto, requiere un preprocesamiento automatizado por IA. De lo contrario, manualmente, absolutamente no podríamos seguir todo. “dice Robin Kwiatkowski.
Aunque el trabajo de verificación humana sigue siendo esencial, la IA ahorra un tiempo valioso, especialmente en ciberseguridad. El Centro de Operaciones de Seguridad, que se encarga de supervisar los sistemas de información dentro de las empresas para prevenir ataques cibernéticos, es una de las divisiones que aprovechará esto. Diariamente, tienen que lidiar con una miríada de incidentes, en los que se esconden ataques reales. El preprocesamiento que realiza la IA les permite acelerar su trabajo de análisis para detectar, más rápidamente, las alertas reales y tomar decisiones más informadas.
Además de ahorrar tiempo y energía, esta innovación también podría utilizarse, a largo plazo, para mejorar la seguridad general de una organización, al identificar qué usuario accede a qué recurso de TI. Como explica el investigador de ciberseguridad de Kaspersky, » muchos atacantes utilizan rutas en la red que no necesariamente tienen que ser, por ejemplo, un empleado del departamento de contabilidad que, desde su computadora, accede a una base de datos técnica, lo que no se supone que sea el caso «. De hecho, es muy difícil compartimentar a los usuarios de una red. La IA podría ayudar en esta misión refinando el acceso a la computadora de las personas según su función en la empresa.
También podría tener un papel clave en la automatización del análisis de virus, que es como un lenguaje real. » Una vez que debe ejecutarse, la máquina lo entiende, pero es un poco difícil de leer para nosotros como humanos. “, admite Robin Kwiatkowski. Los ingenieros inversos, que analizan cómo funciona el virus, deben leer «lenguaje de máquina» para dominar su funcionamiento. La IA, que tiene capacidades avanzadas para comprender este famoso idioma, puede ayudar a acelerar las búsquedas.
Riesgos y límites relacionados con deep fakes y fake news
Aunque la IA presenta grandes oportunidades para el sector de la ciberseguridad, no está exenta de preguntas. ¿Cuáles son los riesgos asociados con su uso? ¿Qué pasa con los límites?
Si Robin Kwiatkowski no está preocupado por el tiempo de aprendizaje de la IA, que sigue siendo extremadamente rápido e impresionante incluso en un contexto cibernético complejo, sin embargo, se pregunta sobre el lugar de esta tecnología en la industria.
Sus habilidades pueden ser mal utilizadas, como lo demuestran las falsificaciones profundas. Hoy en día, hay una gran cantidad de servicios para hacer esos videos falsos rápidamente y a bajo costo. « Para los individuos puede ser muy complicado decirse a sí mismos «Eso es cierto, eso no lo es»“, enfatiza el experto. También plantea otro riesgo: el uso de IA por parte de cuentas de desinformación, actualmente controladas manualmente por operadores. » Eventualmente, puedo ver las próximas cuentas que están completamente administradas por AI. Una cuenta de Twitter sabrá automáticamente qué otras cuentas seguir para ser legítima, a quién responder, cómo… Creo que nos enfrentaremos a una gran cantidad de cuentas falsas y avatares que son administrados por IA detrás. “, explica el investigador de ciberseguridad de kaspersky.
La protección contra tales peligros pasa necesariamente por la sensibilización y la educación. Para Robin Kwiatkowski, esto debería ser un componente de la carrera escolar. » ¿Cómo verificar una información ? ¿Cómo verificar una fuente? me parece importante «, el Insiste. Por su parte, es necesario que los actores de la ciberseguridad tomen conciencia del tipo de datos sobre los que se ha entrenado una IA para anticipar sus límites así como sus posibles sesgos.
Ante los múltiples usos que se hacen de ella, tanto ofensivos como defensivos, la inteligencia artificial sigue siendo una tecnología que aún se encuentra en pleno desarrollo. Si bien el sector de la ciberseguridad está aprovechando gradualmente las muchas oportunidades que ofrece, aún se debe encontrar un plan de acción meticuloso para hacer frente a sus limitaciones. Las averías deben anticiparse y corregirse para hacer frente a los riesgos de ataques, que siguen siendo numerosos.