Puede parecer que los asistentes virtuales impulsados por IA están aquí para ayudar, pero muchos expertos se refieren a ellos como una «pesadilla de seguridad».
Los gigantes tecnológicos están desarrollando herramientas de inteligencia artificial para personalizar la experiencia del usuario, pero estas funciones son cada vez más invasivas.
Uno de los mejores ejemplos es Microsoft Recordemos que una próxima función para las PC Copilot+ se promociona como «su compañero de inteligencia artificial de todos los días».
Recall toma capturas de pantalla de un dispositivo cada pocos segundos para crear una biblioteca de contenido que se puede buscar.
Su publicación se pospuso indefinidamente tras una serie de críticas por parte de expertos en privacidad de datos, incluida la Oficina del Comisionado de Información del Reino Unido.
La recuperación ahora estará desactivada de forma predeterminada y se lanzará exclusivamente para los usuarios del programa Windows Insiders como vista previa.
A pesar de los cambios anunciados en un aviso del 13 de junio, algunos características Se espera que permanezcan iguales.
A menos que el usuario haya desactivado la herramienta, solo las ventanas privadas en Edge, Chrome, Óperay Firefox quedan ocultos a las miradas indiscretas del asistente virtual.
Pero los archivos de ayuda indican que se pueden tomar capturas de pantalla en aplicaciones y páginas web excluidas, guardarlas como archivos temporales y eliminarlas.
Incluso entonces, hipotéticamente podrían ser recuperados de una unidad de almacenamiento por cualquiera que tenga acceso a su cuenta de Windows, incluidos los piratas informáticos.
A pesar de la reacción negativa, otros gigantes tecnológicos están siguiendo el ejemplo.
GoogleEl próximo asistente virtual de Google, cuyo nombre en código es Proyecto Astra, utilizará capturas de pantalla como flujo de datos de entrada.
Algunos expertos han llegado incluso a calificar a Astra de «versión Google de Microsoft Recall».
Apple anunció recientemente Manzana Inteligencia, y aunque su características están envueltos en secreto, sabemos que Siri tendrá “conciencia en pantalla” al procesar solicitudes.
Para comprender plenamente los riesgos de Microsoft Al recordar y usar herramientas similares, es importante tener una idea de lo que está haciendo con sus datos.
Los asistentes como Recall pueden tomar capturas de pantalla, reconocer texto y almacenar esta información independientemente de la sensibilidad.
3
Además, el control sobre el asistente es limitado. Es posible que funciones adicionales del sistema operativo se activen de forma intencionada o accidental siguiendo las órdenes del fabricante.
Un asistente virtual podría aparecer en una computadora inesperadamente y sin previo aviso como parte de una actualización.
A pesar de Microsoft dice que ahora estará desactivado de forma predeterminada, pero puede que no sea así para los competidores.
También existe la posibilidad de que los ciberdelincuentes accedan a sus datos, que quedarán almacenados cómodamente en un solo lugar.
Microsoft, por su parte, ha intentado minimizar el riesgo. Como parte de los cambios anunciados el 13 de junio, los usuarios deben utilizar el proceso de autenticación «Hello» para habilitar Recall.
3
Este método biométrico se basa en identificadores personales únicos, como una huella dactilar, un escaneo del iris o un reconocimiento facial.
Las capturas de pantalla también estarán encriptadas, lo que significa que los datos solo estarán disponibles para su visualización una vez que el usuario confirme su identidad.
Sin embargo, un hacker podría lograr vulnerar estas medidas de seguridad.
Como el programa toma capturas de pantalla indiscriminadamente, un actor malintencionado podría acceder a información confidencial como credenciales de inicio de sesión, correos electrónicos y más de una sola vez.
Microsoft se negó a hacer comentarios sobre las acusaciones de que Recall representaba un riesgo de seguridad.
¿Cuáles son los argumentos contra la IA?
La inteligencia artificial es un tema muy controvertido y parece que todo el mundo tiene una postura al respecto. A continuación, se presentan algunos argumentos comunes en contra:
Pérdida de empleos: algunos expertos del sector sostienen que la IA creará nuevos nichos en el mercado laboral y que, a medida que se eliminen algunos puestos, aparecerán otros. Sin embargo, muchos artistas y escritores insisten en que el argumento es ético, ya que las herramientas de IA generativa se están entrenando en su trabajo y no funcionarían de otra manera.
Ética: cuando se entrena a la IA con un conjunto de datos, gran parte del contenido se obtiene de Internet. Esto se hace casi siempre, si no exclusivamente, sin notificar a las personas cuyo trabajo se está robando.
Privacidad: el contenido de las cuentas personales de redes sociales puede ser utilizado para alimentar modelos de lenguaje con el fin de entrenarlos. Han surgido inquietudes a medida que Meta presenta sus asistentes de inteligencia artificial en plataformas como Facebook e Instagram. Esto ha generado desafíos legales: en 2016, se creó una legislación para proteger los datos personales en la UE y se están elaborando leyes similares en los Estados Unidos.
Desinformación: cuando las herramientas de inteligencia artificial extraen información de Internet, pueden sacarla de contexto o sufrir alucinaciones que produzcan respuestas sin sentido. Herramientas como Copilot en Bing y la inteligencia artificial generativa de Google en las búsquedas siempre corren el riesgo de equivocarse. Algunos críticos sostienen que esto podría tener efectos letales, como que la inteligencia artificial recete información sanitaria errónea.