My AI de Snapchat en la mira de los reguladores británicos

La Oficina del Comisionado de Información (ICO), el organismo de control de la protección de datos de Gran Bretaña, ha emitido un aviso de aplicación preliminar contra Snapchat. La red social es sospechosa de “ una posible falla en la evaluación adecuada de los riesgos de privacidad que plantea su chatbot generativo de IA “My AI” “.

Una opinión preliminar

Basado en el modelo de lenguaje GPT de OpenAI, My AI está disponible para todos los usuarios de Snapchat, quienes pueden conversar con la inteligencia artificial o pedirle consejo. Al ICO le preocupa que la empresa no haya implementado las medidas necesarias para proteger la privacidad de los jóvenes con el chatbot.

“ Los hallazgos preliminares de nuestra investigación sugieren que Snap no identificó ni evaluó adecuadamente los riesgos de privacidad para los niños y otros usuarios antes de lanzar “Mi IA”. “, comentó el comisionado de Información, John Edwards. Abrir un aviso de ejecución preliminar no constituye una conclusión de infracción, pero la empresa debe abordar las preocupaciones del regulador antes de tomar una decisión final.

“ La evaluación de riesgos en materia de protección de datos es particularmente importante en este contexto que implica el uso de tecnologías innovadoras y el procesamiento de datos personales de niños de 13 a 17 años. », especifica el ICO. Si se adoptara un aviso de cumplimiento final, es posible que se solicite a Snachat que deje de procesar datos relacionados con My AI.

“ Esto significa que Snap no ofrecerá el producto ‘My AI’ a los usuarios del Reino Unido hasta que haya llevado a cabo una evaluación de riesgos adecuada. », continúa la agencia.

No es la primera vez en Europa

“ De acuerdo con nuestro enfoque estándar para el desarrollo de productos, My AI se sometió a un sólido proceso de revisión legal y de privacidad antes de ponerse a disposición del público. », reaccionó Snapchat.

Esta no es la primera vez que la IA conversacional se encuentra en el punto de mira de los reguladores europeos en materia de datos personales. En marzo, las autoridades italianas ordenaron la suspensión de ChatGPT. El modelo pudo reintroducirse cuando OpenAI agregó información de privacidad más detallada, así como nuevos controles para los usuarios.

Upstream, el lanzamiento europeo de Google Bard se retrasó por orden de la Comisión irlandesa de protección de datos. La herramienta podría implementarse más adelante, una vez que la firma de Redmond respondiera a las preocupaciones de los reguladores.