Wing Security anunció hoy que ahora ofrece descubrimiento gratuito y un nivel pago para control automatizado más de miles de aplicaciones SaaS impulsadas por IA y basadas en IA. Esto permitirá a las empresas proteger mejor su propiedad intelectual (PI) y sus datos contra los riesgos crecientes y cambiantes del uso de la IA.
Las aplicaciones SaaS parecen multiplicarse día a día, al igual que su integración de capacidades de IA. Según Wing Security, una empresa de seguridad SaaS que investigó a más de 320 empresas, un asombroso 83,2% utiliza aplicaciones GenAI. Si bien esta estadística puede no ser una sorpresa, la investigación mostró que el 99,7% de las organizaciones utilizan aplicaciones SaaS que aprovechan las capacidades de IA para brindar sus servicios. Este uso de GenAI en aplicaciones SaaS que no son IA «pura» a menudo pasa desapercibido tanto para los equipos de seguridad como para los usuarios.
El 70% de las aplicaciones GenAI más populares pueden usar sus datos para entrenar sus modelos y, en muchos casos, depende completamente de usted configurarlos de manera diferente.
cuando eAl examinar cientos de aplicaciones SaaS que utilizan IA, Wing Security pudo categorizar las diferentes formas en que estas aplicaciones utilizan los datos organizacionales, así como ofrecer una solución a esta nueva amenaza:
Almacenamiento de datos: En algunos casos, la IA almacena los datos durante períodos de tiempo muy largos; en otros, sólo se puede almacenar durante períodos cortos. El almacenamiento de datos permite que los modelos de aprendizaje de IA y los modelos futuros se entrenen continuamente con ellos. Dicho esto, la principal preocupación surge al considerar los diferentes tipos de ataques que se observan en las aplicaciones SaaS. Cuando una aplicación se ve comprometida, los datos que almacena también pueden verse comprometidos.
Entrenamiento modelo: Al procesar grandes cantidades de información, los sistemas de IA pueden identificar patrones, tendencias y conocimientos que pueden eludir el análisis humano. A través de algoritmos de aprendizaje automático, los modelos de IA aprenden de los datos y se adaptan con el tiempo, refinando su rendimiento y precisión, lo que resulta en un mejor servicio para sus usuarios finales. En el lado negativo, permitir que estos modelos aprendan su código, patentes, conocimientos de ventas y marketing proporciona a las aplicaciones que utilizan IA el medio potencial para mercantilizar la ventaja competitiva de su organización. Para algunos, estas fugas de conocimiento se consideran más importantes que las fugas de datos.
El elemento humano: Ciertas aplicaciones de IA aprovechan la validación humana para garantizar la precisión y confiabilidad de los datos que recopilan. Este enfoque colaborativo, a menudo denominado IA humana en el circuito o IA asistida por humanos, implica la integración de la experiencia humana en el proceso algorítmico de toma de decisiones. Esto da como resultado una mayor precisión para el modelo de IA, pero también significa que un ser humano que trabaja para la aplicación GenAI está expuesto a datos y conocimientos potencialmente confidenciales.
Aprovechar la automatización para combatir los riesgos de AI-SaaS
La solución de IA lanzada recientemente por Wing garantiza que los equipos de seguridad se adaptarán y controlarán mejor el uso cada vez mayor y prácticamente imparable de la IA en sus organizaciones. Su solución sigue tres pasos básicos: conocer, evaluar y controlar.
Saber: Como ocurre con muchos riesgos de seguridad, el primer paso es descubrirlos todos. En el caso de la IA, no basta con señalar a los «sospechosos habituales» o a las aplicaciones puramente GenAI como ChatGPT o Bard. Ahora que miles de aplicaciones SaaS utilizan IA para mejorar su servicio, el descubrimiento debe incluir cualquier aplicación que aproveche los datos de los clientes para mejorar sus modelos. Al igual que con sus soluciones anterioresWing ofrece este primer y fundamental paso como una solución de autoservicio gratuita para que los usuarios se incorporen por sí mismos y comiencen a descubrir la magnitud de las aplicaciones impulsadas por IA que utilizan sus empleados.
Evaluar: Una vez que se ha descubierto el SaaS que utiliza IA, Wing proporciona automáticamente una puntuación de seguridad y detalla las formas en que la IA utiliza los datos de la empresa: ¿Durante cuánto tiempo se almacenan? ¿Existe un factor humano? Y quizás lo más importante: ¿es configurable? Proporcionar una vista detallada de los usuarios, permisos e información de seguridad de la aplicación. Este análisis automático permite a los equipos de seguridad tomar decisiones mejor informadas.
Control: El descubrimiento y análisis de Wing señala los problemas más críticos a abordar, lo que permite a los equipos de seguridad comprender fácilmente el nivel de riesgo y los tipos de acciones necesarias. Por ejemplo, decidir si deben permitir o no el uso de una determinada aplicación o simplemente configurar los elementos de IA para que coincidan mejor con su política de seguridad.
El secreto: automatizar todo lo anterior
Al automatizar el descubrimiento, la evaluación y el control, los equipos de seguridad ahorran tiempo al determinar dónde centrar sus esfuerzos en lugar de dispersarse tratando de resolver una superficie de ataque enorme y en evolución. Posteriormente, esto reduce significativamente el riesgo.
Los flujos de trabajo automatizados de Wing también permiten una solución única entre organizaciones: al permitir que los usuarios se comuniquen directamente con el administrador o los usuarios de la aplicación, Wing genera soluciones de seguridad mejor informadas junto con una cultura de seguridad de inclusión más sólida en lugar de una simple lista blanca o negra.
En una era en la que las aplicaciones SaaS son omnipresentes, su integración con la inteligencia artificial plantea un nuevo tipo de desafío. Por un lado, el uso de la IA se ha convertido en una gran herramienta para aumentar la productividad y los empleados deberían poder utilizarla por sus numerosos beneficios. Por otro lado, a medida que continúa aumentando la dependencia de la IA en las aplicaciones SaaS, los riesgos potenciales asociados con el uso de datos se vuelven más pronunciados.
Wing Security ha respondido a este desafío introduciendo un nuevo enfoque, destinado a capacitar a las organizaciones para navegar y controlar el uso cada vez mayor de la IA dentro de sus operaciones, al tiempo que involucra a los usuarios finales en el circuito y garantiza que puedan utilizar la IA-SaaS que necesitan. sin peligro. Su plataforma de control automatizado proporciona una comprensión integral de cómo las aplicaciones de IA utilizan los datos y el conocimiento de la organización, abordando cuestiones como el almacenamiento de datos, el entrenamiento de modelos y el elemento humano en el ciclo de la IA. Los equipos de seguridad pueden ahorrar un tiempo precioso gracias a una clara priorización de riesgos y la participación de los usuarios.