Los equipos de seguridad y TI se ven obligados a adoptar software antes de comprender completamente los riesgos de seguridad. Y las herramientas de IA no son una excepci\u00f3n.<\/p>\n
Tanto los empleados como los l\u00edderes empresariales acuden en masa al software de inteligencia artificial generativa y programas similares, a menudo sin darse cuenta de las principales vulnerabilidades de seguridad de SaaS que est\u00e1n introduciendo en la empresa. A febrero de 2023 encuesta generativa de IA a 1000 ejecutivos<\/a> revel\u00f3 que el 49 % de los encuestados usa ChatGPT ahora, y el 30 % planea aprovechar pronto la omnipresente herramienta de IA generativa. El noventa y nueve por ciento de los que usan ChatGPT afirmaron haber logrado alg\u00fan tipo de ahorro de costos, y el 25 % afirm\u00f3 haber reducido los gastos en $75 000 o m\u00e1s. Como los investigadores realizaron esta encuesta apenas tres meses despu\u00e9s de la disponibilidad general de ChatGPT, el uso actual de ChatGPT y herramientas de inteligencia artificial es sin duda mayor. <\/p>\n Los equipos de seguridad y riesgo ya est\u00e1n abrumados por la protecci\u00f3n de su patrimonio SaaS (que ahora se ha convertido en el sistema operativo de la empresa) de vulnerabilidades comunes, como configuraciones incorrectas y usuarios con permisos excesivos. Esto deja poco ancho de banda para evaluar el panorama de amenazas de herramientas de IA, las herramientas de IA no autorizadas actualmente en uso y las implicaciones para la seguridad de SaaS. <\/p>\n Con las amenazas que surgen fuera y dentro de las organizaciones, los CISO y sus equipos deben comprender los riesgos de las herramientas de IA m\u00e1s relevantes para los sistemas SaaS y c\u00f3mo mitigarlos.<\/p>\n A medida que los empleados ambiciosos idean formas para que las herramientas de inteligencia artificial los ayuden a lograr m\u00e1s con menos, tambi\u00e9n lo hacen los ciberdelincuentes. El uso de IA generativa con intenciones maliciosas es simplemente inevitable y ya es posible.<\/p>\n La capacidad de AI para hacerse pasar por humanos extremadamente bien hace que los protocolos de autenticaci\u00f3n SaaS d\u00e9biles sean especialmente vulnerables a la pirater\u00eda. De acuerdo a Techopedia<\/em>, los actores de amenazas pueden hacer un mal uso de la IA generativa para adivinar contrase\u00f1as, descifrar CAPTCHA y crear malware m\u00e1s potente. Si bien estos m\u00e9todos pueden sonar limitados en su rango de ataque, el Enero de 2023 Violaci\u00f3n de seguridad de CircleCI<\/strong><\/a> se atribuy\u00f3 a que la computadora port\u00e1til de un solo ingeniero se infect\u00f3 con malware. <\/p>\n Del mismo modo, tres destacados acad\u00e9micos de tecnolog\u00eda plantearon recientemente una hip\u00f3tesis plausible para la IA generativa que ejecuta un ataque de phishing: <\/p>\n “Un pirata inform\u00e1tico utiliza ChatGPT para generar un mensaje de phishing personalizado basado en los materiales de marketing de su empresa y los mensajes de phishing que han tenido \u00e9xito en el pasado. Logra enga\u00f1ar a las personas que han sido bien capacitadas en el conocimiento del correo electr\u00f3nico, porque no parece como los mensajes que han sido entrenados para detectar”.<\/em><\/p><\/blockquote>\n Los actores maliciosos evitar\u00e1n el punto de entrada m\u00e1s fortificado, generalmente la plataforma SaaS en s\u00ed misma, y \u200b\u200ben su lugar apuntar\u00e1n a puertas laterales m\u00e1s vulnerables. No se molestar\u00e1n con el cerrojo y el perro guardi\u00e1n situados junto a la puerta principal cuando pueden escabullirse hacia las puertas del patio abiertas.<\/p>\n Confiar solo en la autenticaci\u00f3n para mantener seguros los datos de SaaS no es una opci\u00f3n viable. M\u00e1s all\u00e1 de implementar la autenticaci\u00f3n multifactor (MFA) y las claves de seguridad f\u00edsicas, los equipos de seguridad y riesgo necesitan visibilidad y monitoreo continuo para todo el per\u00edmetro de SaaS, junto con alertas autom\u00e1ticas para actividades de inicio de sesi\u00f3n sospechosas. <\/p>\n Estos conocimientos son necesarios no solo para las actividades de inteligencia artificial generativa de los ciberdelincuentes, sino tambi\u00e9n para las conexiones de herramientas de inteligencia artificial de los empleados a las plataformas SaaS.<\/p>\n Los empleados ahora conf\u00edan en herramientas de inteligencia artificial no autorizadas para facilitar su trabajo. Despu\u00e9s de todo, \u00bfqui\u00e9n quiere trabajar m\u00e1s duro cuando las herramientas de IA aumentan la eficacia y la eficiencia? Como cualquier forma de TI en la sombra<\/a>la adopci\u00f3n de herramientas de IA por parte de los empleados est\u00e1 impulsada por las mejores intenciones. <\/p>\n Por ejemplo, un empleado est\u00e1 convencido de que podr\u00eda administrar mejor su tiempo y sus tareas pendientes, pero el esfuerzo por monitorear y analizar su gesti\u00f3n de tareas y su participaci\u00f3n en las reuniones se siente como una gran empresa. AI puede realizar ese monitoreo y an\u00e1lisis con facilidad y brindar recomendaciones casi al instante, brindando al empleado el impulso de productividad que anhela en una fracci\u00f3n del tiempo. Registrarse en un asistente de programaci\u00f3n de IA, desde la perspectiva del usuario final, es tan simple y (aparentemente) inocuo como:<\/p>\n Este proceso, sin embargo, crea conductos invisibles a los datos m\u00e1s sensibles de una organizaci\u00f3n. Estas conexiones de IA a SaaS heredan la configuraci\u00f3n de permisos del usuario, lo que permite que el pirata inform\u00e1tico que pueda comprometer con \u00e9xito la herramienta de IA se mueva de manera silenciosa y lateral a trav\u00e9s de los sistemas SaaS autorizados. Un pirata inform\u00e1tico puede acceder y filtrar datos hasta que se detecte una actividad sospechosa y se act\u00fae en consecuencia, lo que puede variar de semanas a a\u00f1os. <\/p>\n Las herramientas de IA, como la mayor\u00eda de las aplicaciones SaaS, usan Tokens de acceso OAuth para conexiones continuas a plataformas SaaS<\/strong><\/a>. Una vez que se completa la autorizaci\u00f3n, el token para el asistente de programaci\u00f3n de IA mantendr\u00e1 una comunicaci\u00f3n consistente basada en API con las cuentas de Gmail, Google Drive y Slack, todo sin requerir que el usuario inicie sesi\u00f3n o se autentique en intervalos regulares.. <\/em>El actor de amenazas que puede sacar provecho de este token OAuth se ha topado con el equivalente SaaS de claves de repuesto “ocultas” debajo del felpudo. <\/p>\n1. Los actores de amenazas pueden explotar la IA generativa para enga\u00f1ar a los protocolos de autenticaci\u00f3n de SaaS <\/h3>\n
2. Los empleados conectan herramientas de IA no autorizadas a plataformas SaaS sin tener en cuenta los riesgos <\/h3>\n
\n
![\"herramienta](\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/06\/1687784377_187_Como-la-IA-generativa-puede-enganar-a-los-protocolos-de.jpg\" "\\"herramienta")
<\/td>\n<\/tr>\n