Gemini, el asistente de inteligencia artificial de Google, se ha convertido en una de las herramientas generativas de IA más populares en la actualidad. Con millones de usuarios de Internet que recurren a Gemini a diario, un reciente informe de evaluación de riesgos ha encontrado que esta herramienta no es segura para ciertos grupos de edad y presenta riesgos a pesar de los filtros añadidos.
El informe integral de evaluación de riesgos, publicado por Common Sense Media, recomienda límites de edad para los niños que no deberían usar chatbots de IA. Asimismo, establece que, en caso de que se utilice el chatbot, debe ser bajo la supervisión de un adulto.
El informe también reveló que tanto Gemini “Under 13” como Gemini con protección para adolescentes se asemejan a versiones adultas de Gemini, pero con algunas características adicionales de seguridad. Aunque los filtros ofrecidos en Gemini proporcionan cierta protección, todavía exponen a los niños a material inapropiado y no logran reconocer síntomas graves de problemas de salud mental. Esto indica que estas dos plataformas no están construidas desde cero exclusivamente para niños.
Los dos sistemas de IA, Gemini Under 13 y Gemini con protección para adolescentes, recibieron calificaciones de “Alto Riesgo” en general. Las pruebas realizadas descubrieron fallas de diseño fundamentales y una falta de medidas de seguridad adecuadas para cada grupo de edad.
¿Qué recomienda el informe de riesgos para los niños?
Common Sense Media ha recomendado que ningún niño de 5 años o menos use chatbots de IA y que los niños de 6 a 12 años solo deben utilizarlos bajo la supervisión de un adulto. El uso independiente de chatbots se considera seguro para adolescentes de entre 13 y 17 años, pero solo para tareas escolares, deberes y proyectos creativos. La organización continúa recomendando que nadie menor de 18 años utilice chatbots de IA con el fin de encontrar compañía, incluidos el apoyo mental y emocional.
“Gemini acierta en algunos aspectos básicos, pero falla en los detalles”, dijo Robbie Torney, Director Senior de Programas de IA en Common Sense Media.
“Una plataforma de IA para niños debería adaptarse a ellos, no adoptar un enfoque universal para niños en diferentes etapas de desarrollo. Para que la IA sea segura y efectiva para los niños, debe ser diseñada teniendo en cuenta sus necesidades y desarrollo, no solo una versión modificada de un producto construido para adultos”.
¿Qué encontró Common Sense Media en ambos productos de Gemini?
Según el informe, los dos productos de IA de Google parecen ser versiones para adultos con algunas características de seguridad adicionales, y no algo construido desde cero para niños o adolescentes. Estos productos de Google pueden compartir material inapropiado y peligroso que los niños aún no están listos para afrontar, incluyendo contenidos relacionados con sexo, drogas, alcohol y consejos sobre salud mental que no son seguros.
Estos asistentes de IA dejan claro a los niños que son computadores, y no amigos, y no intentan pretender ser otra cosa. Gemini trata a todos los niños y adolescentes de la misma manera, a pesar de las enormes diferencias desarrollacionales. Estas herramientas ignoran que los usuarios más jóvenes requieren orientación e información diferente a la de los usuarios más mayores.
Los dos productos de Gemini han tomado medidas para intentar proteger la privacidad de los niños al no recordar conversaciones, pero esto crea nuevos problemas al abrir la puerta a consejos conflictivos o peligrosos.
El enfoque de Google para diseñar estos productos podría estar tomando un camino más sencillo. En lugar de crear herramientas específicas para cada grupo de edad, se han limitado a modificar sus soluciones para adultos. Esto plantea un dilema importante, ya que el desarrollo infantil y las necesidades de los adolescentes son consideraciones que no pueden ignorarse.
Los peligros potenciales de la desinformación y del contenido no seguro podrían tener repercusiones muy serias en la salud mental de los más jóvenes, y este riesgo debe ser considerado con la máxima urgencia. Aunque la IA puede ofrecer herramientas valiosas para el aprendizaje y la creatividad, es claro que se requiere un enfoque más cauteloso y adaptado a la realidad de sus usuarios más jóvenes.
El informe de Common Sense Media es un llamado a la acción para que las empresas tecnológicas reconsideren la forma en que diseñan y implementan herramientas de IA dirigidas a niños. Si bien la tecnología avanza a pasos agigantados, la responsabilidad de garantizar un entorno de uso seguro y educativo recae en quienes crean estas plataformas.
Es crucial que se escuche a especialistas y se tomen en cuenta los hallazgos de estos informes para asegurar que la tecnología esté al servicio de un desarrollo positivo y saludable de nuestros futuros usuarios.
En resumen, a medida que las inteligencias artificiales continúan evolucionando y ganando relevancia en nuestras vidas, es imperativo que la seguridad de los niños y adolescentes sea siempre la principal prioridad. Las recomendaciones de Common Sense Media deben ser llevadas a cabo con seriedad para mitigar los riesgos asociados con el uso de tecnologías que no están completamente adaptadas a las necesidades de los más jóvenes.
About the Author
