{"id":818338,"date":"2023-06-22T14:44:46","date_gmt":"2023-06-22T14:44:46","guid":{"rendered":"https:\/\/teknomers.com\/es\/aplicaciones-de-ia-generativa-y-chatgpt-riesgos-potenciales-y-estrategias-de-mitigacion\/"},"modified":"2023-06-22T14:44:54","modified_gmt":"2023-06-22T14:44:54","slug":"aplicaciones-de-ia-generativa-y-chatgpt-riesgos-potenciales-y-estrategias-de-mitigacion","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/aplicaciones-de-ia-generativa-y-chatgpt-riesgos-potenciales-y-estrategias-de-mitigacion\/","title":{"rendered":"Aplicaciones de IA generativa y ChatGPT: riesgos potenciales y estrategias de mitigaci\u00f3n"},"content":{"rendered":"


\n<\/p>\n

\n

\ue802<\/i>22 de junio de 2023<\/span>\ue804<\/i>Las noticias del hacker<\/span><\/span><\/p>\n<\/div>\n

\n
<\/div>\n

\u00bfPerder el sue\u00f1o por las aplicaciones de IA generativa? No est\u00e1s solo o equivocado. Seg\u00fan Astrix Security Research Group, las organizaciones medianas ya tienen, en promedio, 54 integraciones de IA generativa en sistemas centrales como Slack, GitHub y Google Workspace y se espera que este n\u00famero crezca. Contin\u00fae leyendo para comprender los riesgos potenciales y c\u00f3mo minimizarlos. <\/em><\/p>\n

Reserve una sesi\u00f3n de Descubrimiento de IA generativa con los expertos de Astrix Security (gratis, sin condiciones, sin agente y sin fricci\u00f3n)<\/a><\/p>\n

“Hola ChatGPT, revisa y optimiza nuestro c\u00f3digo fuente” <\/em><\/p>\n

“Hola, Jasper.ai, genera un correo electr\u00f3nico de resumen de todos nuestros nuevos clientes netos de este trimestre” <\/em><\/p>\n

“Hola Otter.ai, resume nuestra reuni\u00f3n de la junta de Zoom”<\/em><\/p>\n

En esta era de turbulencia financiera, tanto las empresas como los empleados buscan constantemente herramientas para automatizar los procesos de trabajo y aumentar la eficiencia y la productividad mediante la conexi\u00f3n de aplicaciones de terceros a sistemas comerciales centrales como Google Workspace, Slack y GitHub a trav\u00e9s de claves API, tokens OAuth, servicio cuentas y mas. El auge de las aplicaciones de IA generativa y los servicios GPT exacerba este problema, ya que los empleados de todos los departamentos agregan r\u00e1pidamente las mejores y m\u00e1s recientes aplicaciones de IA a su arsenal de productividad, sin el conocimiento del equipo de seguridad. <\/p>\n

Desde aplicaciones de ingenier\u00eda, como revisi\u00f3n y optimizaci\u00f3n de c\u00f3digo, hasta aplicaciones de marketing, dise\u00f1o y ventas, como creaci\u00f3n de contenido y video, creaci\u00f3n de im\u00e1genes y aplicaciones de automatizaci\u00f3n de correo electr\u00f3nico. Con ChatGPT se convierte en la aplicaci\u00f3n de m\u00e1s r\u00e1pido crecimiento<\/a> en el historial y las aplicaciones impulsadas por IA que se descargan 1506% m\u00e1s que el a\u00f1o pasado<\/a>los riesgos de seguridad de usar, y lo que es peor, conectar estas aplicaciones a menudo no examinadas a los sistemas centrales de la empresa ya est\u00e1 causando noches de insomnio para los l\u00edderes de seguridad. <\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
La conectividad de aplicaci\u00f3n a aplicaci\u00f3n de su organizaci\u00f3n<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Los riesgos de las aplicaciones Gen-AI<\/strong><\/h2>\n

Las aplicaciones basadas en IA presentan dos preocupaciones principales para los l\u00edderes de seguridad: <\/p>\n

1. Intercambio de datos a trav\u00e9s de aplicaciones como ChatGPT: <\/strong>El poder de la IA reside en los datos, pero esta misma fortaleza puede convertirse en una debilidad si no se gestiona correctamente. Los empleados pueden compartir involuntariamente informaci\u00f3n confidencial y cr\u00edtica para el negocio, incluida la PII de los clientes y la propiedad intelectual como el c\u00f3digo. Tales filtraciones pueden exponer a las organizaciones a violaciones de datos, desventajas competitivas y violaciones de cumplimiento. Y esto no es una f\u00e1bula, solo preg\u00fantale a Samsung. <\/p>\n

Las filtraciones de Samsung y ChatGPT: un caso de precauci\u00f3n<\/em><\/p>\n

Samsung inform\u00f3<\/em><\/a> tres filtraciones diferentes de informaci\u00f3n altamente confidencial por parte de tres empleados que usaron ChatGPT con fines de productividad. Uno de los empleados comparti\u00f3 un c\u00f3digo fuente confidencial para comprobar si hab\u00eda errores, otro comparti\u00f3 un c\u00f3digo para optimizar el c\u00f3digo y el tercero comparti\u00f3 una grabaci\u00f3n de una reuni\u00f3n para convertirla en notas de reuni\u00f3n para una presentaci\u00f3n. ChatGPT ahora utiliza toda esta informaci\u00f3n para entrenar los modelos de IA y se puede compartir en la web. <\/em><\/p>\n

2. Aplicaciones de IA generativa no verificadas: <\/strong>No todas las aplicaciones de IA generativa provienen de fuentes verificadas. La investigaci\u00f3n reciente de Astrix revela que los empleados est\u00e1n conectando cada vez m\u00e1s estas aplicaciones basadas en IA (que generalmente tienen acceso de alto privilegio) a sistemas centrales como GitHub, Salesforce y similares, lo que genera importantes preocupaciones de seguridad.<\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
La amplia gama de aplicaciones de IA generativa<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n

Reserve una sesi\u00f3n de Descubrimiento de IA generativa con los expertos de Astrix Security (gratis, sin condiciones, sin agente y sin fricci\u00f3n)<\/a><\/p>\n

Ejemplo de la vida real de una integraci\u00f3n arriesgada de Gen-AI: <\/strong><\/h2>\n

En las im\u00e1genes a continuaci\u00f3n se pueden ver los detalles de la plataforma astrix<\/a> sobre una arriesgada integraci\u00f3n Gen-AI que se conecta al entorno de Google Workspace de la organizaci\u00f3n.<\/p>\n

Esta integraci\u00f3n, Google Workspace Integration “GPT para Gmail”, fue desarrollada por un desarrollador que no es de confianza y se le otorg\u00f3 permisos elevados a las cuentas de Gmail de la organizaci\u00f3n:<\/p>\n

\"\"<\/div>\n

Entre los alcances de los permisos otorgados a la integraci\u00f3n se encuentra “mail.all”, que permite que la aplicaci\u00f3n de terceros lea, redacte, env\u00ede y elimine correos electr\u00f3nicos, un privilegio muy sensible:<\/p>\n

\"\"<\/div>\n

Informaci\u00f3n sobre el proveedor de la integraci\u00f3n, que no es de confianza:<\/p>\n

\"\"<\/div>\n

C\u00f3mo <\/strong>astriz<\/strong> ayuda a minimizar sus riesgos de IA<\/strong><\/h2>\n

Para navegar de forma segura por el emocionante pero complejo panorama de la IA, los equipos de seguridad necesitan una s\u00f3lida gesti\u00f3n de identidad no humana para obtener visibilidad de los servicios de terceros a los que se conectan sus empleados, as\u00ed como el control de los permisos y evaluar adecuadamente los posibles riesgos de seguridad. Con Astrix ahora puedes:<\/p>\n\n\n\n\n
\"\"<\/td>\n<\/tr>\n
El mapa de conectividad de Astrix<\/td>\n<\/tr>\n<\/tbody>\n<\/table>\n