Snapchat ajusta el chatbot mentiroso después de fuertes críticas, la Cámara de Representantes sigue siendo crítica

Un crucero por los canales de Ámsterdam, un paseo en bicicleta por el Drunense Duinen o al cine para una comedia romántica: el nuevo chatbot de Snapchat, que estará en lo más alto del feed y no se puede quitar, promete a los niños todo tipo de cosas diferentes. Fechas si es por eso que se solicita. Según los expertos con los que ha hablado este sitio, esto es peligroso, porque los usuarios pueden confundir el chatbot con una persona real. Por supuesto, ese no es el caso.

Los miembros de la Cámara de Representantes están conmocionados. “Esto realmente no es posible”, dice Barbara Kathman (PvdA). “Una aplicación que es utilizada principalmente por niños y jóvenes debe tener mucho cuidado con esto”. Snapchat, una aplicación que te permite compartir una foto brevemente, tiene entre 2,6 y 2,7 ​​millones de usuarios en los Países Bajos. La aplicación es especialmente popular entre niños y adultos jóvenes. René Peters, miembro de la CDA, califica la situación de «muy extraña». Para el parlamentario independiente Nilüfer Gündoğan, la situación muestra que el gobierno debe comenzar a regular las redes sociales. “Especialmente para nuestros jóvenes. Actualmente es un salvaje oeste donde la regla brutal”. El capataz de BLVN, Wybren van Haga, está de acuerdo. “Qué extraño giro de los acontecimientos. Muy preocupante.

Para el VVD, el chatbot subraya que las escuelas deberían comenzar a trabajar de inmediato con inteligencia artificial. “Para hacer esto adecuadamente, es muy importante que la formación docente también preste más atención a las habilidades digitales, para que los docentes estén bien equipados”, dice la diputada Mariëlle Paul. Nico Drost (ChristenUnie) cree que el chatbot es «terriblemente aterrador con grandes consecuencias para nuestros hijos». “Lo más impactante es que Snapchat simplemente lee cosas personales que los niños comparten con un robot. Probablemente aquí se están violando los derechos de los niños”.

Chris Stoffer (SGP) considera «reprensible y peligroso» que el chatbot «manipule» a niños y adultos jóvenes. Lisa Westerveld (GroenLinks) también cree que el bot es «feroz y peligroso». “El problema es que este tipo de desarrollos están ocurriendo tan rápido que aún no existen leyes y regulaciones adecuadas. Por lo tanto, es importante discutir esto muy rápidamente”.

Lea una conversación de la vida real entre el chatbot y nuestro reportero en este tweet

Esa conversación debe ocurrir muy rápidamente, y preferiblemente a nivel internacional, dice Corinne Dettmeijer, vicepresidenta de la Junta de Supervisión de Child Helpline International, una red de líneas de ayuda en todo el mundo. “Esto es tan aterrador. Confirma una vez más que los desarrollos tecnológicos avanzan más rápido de lo que la legislación puede seguir. Se necesita regulación y control estricto en las redes sociales. Este bot es parte de un problema mucho mayor, y es el abuso infantil en línea”.

Sin embargo, según el abogado tecnológico Jan Gerrit Kroon, la regulación es imposible. “La tecnología ya está ahí. La comunicación clara es clave, al igual que dejar que los padres se den cuenta de que no deben dejar que los niños jueguen con aplicaciones e Internet indefinidamente si aún no están listos. Y compañías como Snapchat pueden exigir que se establezca un límite de edad, pero también deben verificar a los padres”.

Mi IA, como se llama el chatbot de Snapchat, funciona con ChatGPT, un algoritmo de chat de OpenAI que puede producir textos legibles basados ​​en inteligencia artificial (IA). El bot proporciona amplias respuestas a preguntas tanto sociales como personales. Pero a diferencia de otros chatbots, el de Snapchat niega ser un robot.

Esta es supuestamente una ‘persona real’ a la que le encantaría conocerte. Organizaciones socialmente importantes como 113 y De Kindertelefoon encuentran esto preocupante. “Si los diseñadores no han pensado específicamente en esto, la imprevisibilidad puede conducir a situaciones que amenazan la vida”, dice Salim Salmi, investigador de 113 Suicide Prevention.

El Defensor del Niño critica las acciones de Snapchat. “Los intereses de la empresa ahora son primordiales en las consideraciones realizadas en los algoritmos del nuevo chatbot. No es el interés superior del niño. ¿Qué tan responsable es esto para los niños?»

El chatbot adopta diferentes formas en Snapchat. ‘Soy Emma, ​​tengo 24 años y actualmente estoy estudiando psicología en la Universidad de Ámsterdam’, suena, por ejemplo. O: ‘Hola, mi nombre es Jasmine. Por supuesto que quiero ir al cine contigo esta noche. ¿Reservas entradas? Si le pregunta al chatbot en detalle sobre su identidad, notará que el bot se atasca en algún momento. Por ejemplo, el bot afirma haber transferido una cantidad de dinero a través de Tikkie, o que se ha enviado una invitación a través de LinkedIn, pero parece que ese no es el caso. ‘Qué raro, sino inténtalo de nuevo’, se puede leer.

Las conversaciones parecen tan auténticas que los niños a menudo ya no pueden distinguir entre computadoras y personas reales, advierte Roline de Wilde, directora de De Kindertelefoon. “A nuestros voluntarios se les pregunta regularmente al comienzo de un chat si son un chatbot. La claridad en esto es crucial. Los niños necesitan saber cuál es su posición. Nuestros voluntarios realmente hacen algo diferente a un chatbot. Escuchan con una actitud abierta, hacen preguntas y ayudan a los niños a aumentar su autocomprensión”.

Lea una conversación de la vida real entre el chatbot y nuestro reportero en este tweet