Cómo investigar la actividad de ChatGPT en Google Workspace


17 de septiembre de 2024Las noticias de los hackersSeguridad GenAI / Seguridad SaaS

Cuando conectas la cuenta de Google Drive de tu organización a ChatGPT, le otorgas a ChatGPT amplios permisos no solo para tus archivos personales, sino también para los recursos de toda la unidad compartida. Como puedes imaginar, esto presenta una serie de desafíos de ciberseguridad. En esta publicación, se describe cómo ver la actividad de ChatGPT de forma nativa en la consola de administración de Google Workspace y cómo Nudge Security puede brindar visibilidad completa de todas las integraciones de genAI.

Desde el lanzamiento de ChatGPT en 2022, OpenAI ha desafiado las expectativas con un flujo constante de anuncios y mejoras de productos. Uno de esos anuncios se produjo el 16 de mayo de 2024 y, para la mayoría de los consumidores, probablemente se sintió inofensivo. «Mejoras en el análisis de datos en ChatGPT» La publicación describe cómo los usuarios pueden agregar archivos directamente desde Google Drive y Microsoft OneDrive. Vale la pena mencionar que otras herramientas de genAI como Google AI Studio y Claude Enterprise también han agregado capacidades similares recientemente. Bastante genial, ¿verdad? Tal vez.

Cuando conecta la cuenta de Google Drive o OneDrive de su organización a ChatGPT (u otras herramientas de genAI), le otorga amplios permisos no solo para sus archivos personales, sino también para los recursos de toda la unidad compartida. Como puede imaginar, los beneficios de este tipo de integración amplia conllevan una serie de desafíos de ciberseguridad.

Entonces, ¿cómo puede saber si los empleados han habilitado la integración entre ChatGPT y Google Drive y cómo puede controlar a qué archivos se ha accedido? Esta publicación explica cómo hacer esto de forma nativa en Google Workspace y cómo Seguridad de Nudge Puede ayudarle a descubrir todas las aplicaciones genAI en uso y con qué otras aplicaciones se han integrado.

Dónde ver la actividad de ChatGPT en Google Workspace

En Google Workspace, hay un par de formas de identificar e investigar la actividad asociada con la conexión ChatGPT.

Desde la consola de administración de Google Workspace, dirígete a Informes > Auditoría e investigación > Eventos de registro de Drive. Aquí verás una lista de los recursos de Google Drive a los que se accedió.

También puede investigar la actividad a través de llamadas API en Informes → Auditoría e investigación → Eventos de registro de Oauth.

Espacio de trabajo de Google

Por lo tanto, revisar periódicamente la consola de administración de Google Workspace puede ayudarte a comprender a qué recursos accede ChatGPT, pero ver esta actividad después de que ya haya sucedido es, por supuesto, menos valioso que recibir una alerta tan pronto como se creen nuevas integraciones con ChatGPT. Aquí es donde la seguridad de Nudge puede ayudar.

Cómo ver todas las integraciones de genAI con Nudge Security

Nudge Security descubre todas las cuentas creadas por cualquier persona de su organización para cualquier aplicación SaaS, incluidas ChatGPT y la lista en rápida expansión de herramientas genAI recién creadas, sin necesidad de tener conocimiento previo de la existencia de la herramienta. Con el panel de IA integrado, los clientes pueden mantenerse al día con la adopción de IA y actuar de forma proactiva. mitigar los riesgos de seguridad de la IA.

Integraciones de genAI

Además, Nudge Security muestra todas las concesiones OAuth de su organización, como las otorgadas a ChatGPT, dentro de un panel de OAuth filtrable que incluye información sobre el tipo de concesión (inicio de sesión o integración), la actividad y los riesgos. Filtre por categoría para ver todas las concesiones asociadas con las herramientas de IA:

Integraciones de genAI

Haga clic en una subvención para abrir una pantalla de detalles, donde puede revisar un perfil de riesgo, detalles sobre quién creó la subvención y cuándo, acceder a detalles, alcances otorgados y más:

Integraciones de genAI

Luego, puede enviar un «recuerdo» al creador de la concesión a través de Slack o correo electrónico para que realice una determinada acción, como limitar el alcance de la concesión, o puede revocar inmediatamente la concesión desde la interfaz de usuario de Nudge Security.

Por último, puede configurar una regla personalizada para asegurarse de recibir una notificación cuando un usuario de su organización cree una concesión de OAuth para ChatGPT (o cualquier otra aplicación genAI). También puede crear reglas para recibir una alerta de inmediato cuando se creen nuevas cuentas genAI y para instar a los nuevos usuarios genAI a que revisen y acepten su política de uso aceptable de genAI.

Integraciones de genAI

Equilibrar la productividad con la seguridad

Si bien la integración de ChatGPT con Google Drive y Microsoft OneDrive ofrece un inmenso potencial para mejorar la productividad, también abre la puerta a importantes riesgos de seguridad. Las organizaciones deben abordar estas integraciones con una comprensión clara de los riesgos potenciales e implementar medidas de seguridad y gobernanza adecuadas para mitigarlos.

Nudge Security proporciona visibilidad, contexto y automatización para ayudar a las empresas a adoptar herramientas genAI sin comprometer la seguridad de los datos.

Comience una prueba gratuita de 14 días hoy para descubrir de inmediato todas las aplicaciones genAI jamás introducidas en su organización junto con todas las integraciones con sus otras aplicaciones.

¿Te resultó interesante este artículo? Este artículo es una contribución de uno de nuestros valiosos socios. Siguenos en Gorjeo y LinkedIn para leer más contenido exclusivo que publicamos.





ttn-es-57