En el vertiginoso panorama digital actual, la adopci\u00f3n generalizada de herramientas de IA (inteligencia artificial) est\u00e1 transformando la forma en que operan las organizaciones. Desde chatbots hasta modelos generativos de IA, estas aplicaciones basadas en SaaS ofrecen numerosos beneficios, desde una mayor productividad hasta una mejor toma de decisiones. Los empleados que utilizan herramientas de IA experimentan las ventajas de respuestas r\u00e1pidas y resultados precisos, lo que les permite realizar su trabajo de manera m\u00e1s eficaz y eficiente. Esta popularidad se refleja en las asombrosas cifras asociadas con las herramientas de IA. <\/p>\n
El chatbot viral de OpenAI, ChatGPT, ha acumulado aproximadamente 100 millones de usuarios en todo el mundo, mientras que otras herramientas de IA generativa como DALL\u00b7E y Bard tambi\u00e9n han ganado una tracci\u00f3n significativa por su capacidad para generar contenido impresionante sin esfuerzo. Se proyecta que el mercado de IA generativa supere los $ 22 mil millones para 2025, lo que indica la creciente dependencia de las tecnolog\u00edas de IA.<\/b><\/a><\/p>\n Sin embargo, en medio del entusiasmo que rodea la adopci\u00f3n de IA, es imperativo abordar las preocupaciones de los profesionales de seguridad en las organizaciones. Plantean preguntas leg\u00edtimas sobre el uso y los permisos de las aplicaciones de IA dentro de su infraestructura: \u00bfQui\u00e9n est\u00e1 usando estas aplicaciones y con qu\u00e9 fines? \u00bfQu\u00e9 aplicaciones de IA tienen acceso a los datos de la empresa y qu\u00e9 nivel de acceso se les ha otorgado? \u00bfCu\u00e1l es la informaci\u00f3n que comparten los empleados con estas aplicaciones? \u00bfCu\u00e1les son las implicaciones de cumplimiento?<\/p>\n No se puede subestimar la importancia de comprender qu\u00e9 aplicaciones de IA est\u00e1n en uso y el acceso que tienen. Es el primer paso b\u00e1sico pero imperativo para comprender y controlar el uso de la IA. Los profesionales de la seguridad deben tener visibilidad completa de las herramientas de IA<\/b><\/a> utilizado por los empleados. <\/p>\n Este conocimiento es crucial por tres razones:<\/p>\n Permite a las organizaciones evaluar <\/strong>los riesgos potenciales asociados con las aplicaciones de IA. Sin saber qu\u00e9 aplicaciones se est\u00e1n utilizando, los equipos de seguridad no pueden evaluar y proteger de manera efectiva contra amenazas potenciales. Cada herramienta de IA presenta una superficie de ataque potencial que debe tenerse en cuenta: la mayor\u00eda de las aplicaciones de IA est\u00e1n basadas en SaaS y requieren tokens OAuth para conectarse con las principales aplicaciones comerciales como Google u O365. A trav\u00e9s de estos tokens, los jugadores maliciosos pueden usar aplicaciones de inteligencia artificial para moverse lateralmente dentro de la organizaci\u00f3n. El descubrimiento de aplicaciones b\u00e1sicas es disponible con herramientas SSPM gratuitas<\/b><\/a> y es la base para asegurar el uso de IA.<\/p>\n Adem\u00e1s, el conocimiento de qu\u00e9 aplicaciones de IA se utilizan dentro de la organizaci\u00f3n ayuda a prevenir el uso involuntario de aplicaciones falsas o maliciosas. La creciente popularidad de las herramientas de IA ha atra\u00eddo a los actores de amenazas que crean versiones falsificadas para enga\u00f1ar a los empleados y obtener acceso no autorizado a datos confidenciales. Al conocer las aplicaciones leg\u00edtimas de IA y educar a los empleados sobre ellas, las organizaciones pueden minimizar los riesgos asociados con estas imitaciones maliciosas.<\/p>\n Identificar los permisos que los empleados otorgaron a las aplicaciones de IA ayuda a las organizaciones implementar <\/strong>s\u00f3lidas medidas de seguridad. Diferentes herramientas de IA pueden tener diferentes requisitos de seguridad y riesgos potenciales. Al comprender los permisos que se otorgaron a las aplicaciones de IA, y si estos permisos presentan o no un riesgo, los profesionales de la seguridad pueden adaptar sus protocolos de seguridad en consecuencia. Asegurarse de que se implementen las medidas adecuadas para proteger los datos confidenciales y evitar permisos excesivos es el segundo paso natural para seguir la visibilidad.<\/p>\n Comprender el uso de aplicaciones de IA permite a las organizaciones tomar acci\u00f3n<\/strong> y administrar su ecosistema SaaS de manera efectiva. Proporciona informaci\u00f3n sobre el comportamiento de los empleados, identifica posibles brechas de seguridad y habilita medidas proactivas para mitigar los riesgos (revocaci\u00f3n de permisos o acceso de empleados, por ejemplo). Tambi\u00e9n ayuda a las organizaciones a cumplir con las normas de privacidad de datos al garantizar que los datos compartidos con las aplicaciones de IA est\u00e9n adecuadamente protegidos. El monitoreo de la incorporaci\u00f3n inusual de IA, la inconsistencia en el uso o simplemente la revocaci\u00f3n del acceso a las aplicaciones de IA que no deber\u00edan usarse son pasos de seguridad f\u00e1cilmente disponibles que los CISO y sus equipos pueden tomar hoy.<\/p>\n En conclusi\u00f3n, las aplicaciones de IA brindan inmensas oportunidades y beneficios a las organizaciones. Sin embargo, tambi\u00e9n presentan desaf\u00edos de seguridad que deben abordarse. Si bien las herramientas de seguridad espec\u00edficas de IA a\u00fan se encuentran en sus primeras etapas, los profesionales de seguridad deben utilizar las capacidades de descubrimiento de SaaS existentes y Gesti\u00f3n de postura de seguridad SaaS (SSPM)<\/b><\/a> soluciones para abordar la pregunta fundamental que sirve como base para el uso seguro de IA: \u00bfQui\u00e9n en mi organizaci\u00f3n est\u00e1 usando qu\u00e9 aplicaci\u00f3n de IA y con qu\u00e9 permisos? Responder estas preguntas fundamentales se puede lograr f\u00e1cilmente usando las herramientas SSPM disponibles<\/b><\/a>ahorrando valiosas horas de trabajo manual.<\/p>\n <\/p>\n1) Evaluaci\u00f3n de riesgos potenciales y protecci\u00f3n contra amenazas<\/h3>\n
2) Implementaci\u00f3n de medidas de seguridad s\u00f3lidas basadas en permisos<\/h3>\n
3) Administrar el ecosistema SaaS de manera efectiva<\/h3>\n