Un incidente con Otter AI plantea preguntas críticas sobre la gestión y protección de información sensible. Alex Bilzerian, investigador e ingeniero, se enfrentó recientemente a una situación que ilustra perfectamente estas cuestiones.
Otter AI: transcripción automática en cuestión
Alex Bilzerian utilizó Otter AI, una popular herramienta de transcripción automática, para grabar una reunión de Zoom con capitalistas de riesgo. Después de salir de la reunión, recibió un correo electrónico que contenía no sólo el acta de la reunión, sino también las horas de conversaciones privadas entre inversores. Estas discusiones incluyeron detalles confidenciales sobre su empresa, lo que llevó a Bilzerian a abandonar cualquier acuerdo con ellos, por temor a no proteger información confidencial.
Este caso no es aislado. De hecho, otros usuarios también han informado de incidentes similares en los que se compartió accidentalmente información confidencial debido a configuraciones incorrectas o una comprensión imperfecta de las capacidades de la herramienta. Herramientas como Otter AI pueden involuntariamente revelar secretos de la empresa o discusiones delicadas, aumentando así el riesgo de acciones legales o abusos importantes de confianza.
La velocidad del desarrollo tecnológico: un desafío para el control y la comprensión
El caso de Bilzerian resalta un problema creciente con las tecnologías de inteligencia artificial: evolucionan más rápido que nuestra capacidad para controlarlas o comprenderlas completamente. No todos los que utilizan estas herramientas son expertos en tecnología. Por tanto, es fundamental que las empresas comprendan y dominen los parámetros y las implicaciones de estas herramientas antes de adoptarlas a gran escala.
Las prácticas comunes de los asistentes virtuales como Otter AI, incluida la capacidad de enviar automáticamente grabaciones y transcripciones a los participantes incluso después de que finalice la reunión, plantean desafíos importantes para la privacidad y la seguridad de los datos. En respuesta a estas preocupaciones, Otter AI insiste en que los usuarios tengan una control total sobre su configuración para compartir conversaciones y puede modificar, actualizar o detener estas acciones en cualquier momento.
Herramientas prometedoras pero imperfectas para mejorar la productividad
A pesar de estos problemas, las funciones que ofrecen los asistentes virtuales basados en IA atraen a muchas empresas que buscan mejorar su productividad. Salesforce lanzó recientemente Agentforce, una oferta de inteligencia artificial para crear agentes virtuales que ayuden con las ventas y el servicio al cliente. Por su parte, Slack integra funciones de IA para resumir conversaciones, buscar temas y crear resúmenes diarios.
Sin embargo, la adopción de estas tecnologías debe ir acompañada de buena comprensión de sus parámetros y sus implicaciones para evitar conductas automáticas no deseadas. Por ejemplo, la función de «transcripción automática» puede seguir funcionando incluso después de que los participantes abandonan una reunión, lo que representa una posible violación de la privacidad.
A pesar de la valiosa ayuda que la IA puede brindar en el lugar de trabajo, son las habilidades humanas las que siguen siendo esenciales para garantizar el uso correcto y ético de estas herramientas. Aunque la tecnología evoluciona rápidamente, los humanos deben poder supervisar y regular eficazmente su uso para evitar incidentes desafortunados.