{"id":868551,"date":"2023-07-23T22:46:51","date_gmt":"2023-07-23T22:46:51","guid":{"rendered":"https:\/\/teknomers.com\/es\/usar-un-chatbot-de-manera-responsable-chatgpt-es-la-peor-opcion\/"},"modified":"2023-07-23T22:46:56","modified_gmt":"2023-07-23T22:46:56","slug":"usar-un-chatbot-de-manera-responsable-chatgpt-es-la-peor-opcion","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/usar-un-chatbot-de-manera-responsable-chatgpt-es-la-peor-opcion\/","title":{"rendered":"\u00bfUsar un chatbot de manera responsable? ‘ChatGPT es la peor opci\u00f3n’"},"content":{"rendered":"


\n<\/p>\n

\n
\n<\/source><\/source><\/picture>\n

Mark Dingemanse trabaja como cient\u00edfico en la Universidad de Radboud.<\/cite>Imagen Jiri Buller \/ de Volkskrant<\/span><\/figcaption><\/p>\n<\/figure>\n

\n

Escribir una propuesta de discurso. Haz un resumen de este texto. Escriba un correo electr\u00f3nico cort\u00e9s a un cliente insatisfecho. Casi todo el mundo ahora conoce ChatGPT como una herramienta. Y, vamos, tal vez el competidor de Google, Bard, tambi\u00e9n. Pero el mundo conoce muchos m\u00e1s de este tipo de programas, que b\u00e1sicamente funcionan todos igual. Los modelos de lenguaje subyacentes se entrenan con grandes cantidades de textos, despu\u00e9s de lo cual los programas generan nuevos textos basados \u200b\u200ben las instrucciones del usuario.\n <\/p>\n

\n

A diferencia de ChatGPT, muchas de esas alternativas son de c\u00f3digo abierto, lo que significa que el c\u00f3digo fuente est\u00e1 disponible p\u00fablicamente y cualquiera puede usarlo o modificarlo. Andreas Liesenfeld, Alianda L\u00f3pez y Mark Dingemanse de la Universidad de Radboud compar\u00f3 estos programas <\/a>y me pregunt\u00e9 qu\u00e9 tan abiertos y transparentes son en realidad. Y aunque ChatGPT (como Bard, por ejemplo) no es de c\u00f3digo abierto, tambi\u00e9n incluyeron al l\u00edder del mercado en el estudio para comparar. El ling\u00fcista Dingemanse ve una “tendencia preocupante”.\n <\/p>\n

\n
\n

\n Sobre el Autor<\/b>
<\/b>Laurens Verhagen prescribe de Volkskrant<\/i> sobre tecnolog\u00eda, internet e inteligencia artificial. Antes de eso, fue editor en jefe de nu.nl<\/i>.\n <\/p>\n<\/p><\/div>\n<\/p><\/div>\n

\n

\u00bfPor qu\u00e9 esta investigaci\u00f3n?
\n <\/h3>\n

\n

‘La llegada de ChatGPT ha puesto el mundo patas arriba en los \u00faltimos meses. La generaci\u00f3n autom\u00e1tica de textos parece ser atractiva para muchas personas. El problema es que nadie sabe exactamente c\u00f3mo funciona el modelo subyacente. La apertura es crucial para la investigaci\u00f3n cient\u00edfica y, en \u00faltima instancia, para construir una IA confiable. \u00bfCu\u00e1les son las limitaciones y los riesgos de tales sistemas? \u00bfC\u00f3mo llegan a sus respuestas? \u00bfCon qu\u00e9 textos han sido entrenados exactamente? Si queremos hacer un progreso real, necesitamos alternativas abiertas.’\n <\/p>\n

\n

Todos, incluso OpenAI (la compa\u00f1\u00eda detr\u00e1s de ChatGPT) lanzan el t\u00e9rmino “abierto”. \u00bfPero abierto no siempre est\u00e1 abierto?
\n <\/h3>\n

\n

‘Latidos. Vimos diferentes aspectos de la apertura<\/a>. Con ‘c\u00f3digo abierto’ casi siempre sale bien. Eso significa que puedo inspeccionar el c\u00f3digo por mi cuenta. Pero hay mucho m\u00e1s. Por ejemplo, \u00bfest\u00e1 claro qu\u00e9 datos de entrenamiento se han utilizado? A principios de este a\u00f1o, OpenAI estaba jubiloso de que la \u00faltima versi\u00f3n de ChatGPT pudiera aprobar con \u00e9xito un examen legal. Pero tal vez el modelo ha sido entrenado con ex\u00e1menes legales, y de repente es mucho menos impresionante.\n <\/p>\n

\n

El problema es que no podemos controlar eso. OpenAI es muy reservado al respecto, presumiblemente por temor a m\u00e1s juicios. Varios autores y consumidores ya se est\u00e1n quejando del uso de sus textos en los datos de entrenamiento. Afortunadamente, la mayor\u00eda de los programas de c\u00f3digo abierto son transparentes en este punto, lo que no elimina el problema de los derechos de autor.’\n <\/p>\n

\n\"Parte
\n <\/source><\/source><\/picture>\n

Parte de la mesa de la Universidad de Radboud, que se complementa constantemente con nuevos modelos.<\/cite>Imagen de la Universidad de Radboud<\/span><\/figcaption><\/p>\n<\/figure>\n

\n

Sin embargo, a veces tambi\u00e9n veo malas calificaciones para los programas de c\u00f3digo abierto. \u00bfD\u00f3nde est\u00e1 yendo mal?
\n <\/h3>\n

\n

‘\u00bfHan documentado correctamente los creadores su c\u00f3digo y sus elecciones sobre la arquitectura de software utilizada? No siempre, porque lleva mucho tiempo. Lo que ning\u00fan otro proyecto hace bien: publicar investigaciones cient\u00edficas sobre su modelo de lenguaje. Esto tambi\u00e9n tiene que ver con la prisa: nadie quiere quedarse atr\u00e1s. Aparentemente, una publicaci\u00f3n de blog es suficiente. Es una tendencia preocupante, porque de esa forma no hay control de calidad por parte de otros cient\u00edficos\u201d.\n <\/p>\n

\n

Los programas de chat tambi\u00e9n obtienen una mala puntuaci\u00f3n en la misteriosa abreviatura RLHF. \u00bfQu\u00e9 es eso?
\n <\/h3>\n

\n

RLHF significa Aprendizaje por refuerzo a partir de la retroalimentaci\u00f3n humana<\/i>. Los modelos todav\u00eda necesitan mucha mano de obra. RLHF garantiza que los chatbots funcionen sin problemas. Hab\u00edan podido arrojar texto coherente durante mucho m\u00e1s tiempo, pero se sent\u00edan r\u00edgidos en la interacci\u00f3n. Se necesita gente precisamente para ese aspecto. Siempre se les presentan diferentes respuestas de un chatbot y luego tienen que indicar cu\u00e1l es la mejor respuesta. Trabajo manual intensivo en mano de obra, pero extremadamente importante. Comp\u00e1ralo con el pico que usan los pasteleros para poner crema. Sin un pico se convierte en un desastre. Para todos los modelos, no est\u00e1 lo suficientemente claro c\u00f3mo se ve exactamente esta parte.’\n <\/p>\n

\n

En la parte superior de su ranking est\u00e1 Bloomz. \u00bfQu\u00e9 es eso?
\n <\/h3>\n

\n

Estoy muy impresionado por eso. Es el resultado de una gran colaboraci\u00f3n europea llamada BigScience. Este colectivo construy\u00f3 el modelo m\u00e1s abierto y es el \u00fanico que brinda una visi\u00f3n clara de los costos de energ\u00eda de este tipo de modelos\u201d.\n <\/p>\n

\n

\u00bfPuede un modelo tan abierto competir con ChatGPT en la pr\u00e1ctica?
\n <\/h3>\n

\n

No estoy principalmente interesado en eso. En ese sentido, me siento un poco como un cient\u00edfico deportivo en una gira que tambi\u00e9n incluye a Lance Armstrong. No tiene mucho sentido preguntarse c\u00f3mo les va a los dem\u00e1s en comparaci\u00f3n con \u00e9l si no sabes lo que est\u00e1 tomando. Como cient\u00edfico, principalmente quiero saber c\u00f3mo funciona bajo el cap\u00f3 y qu\u00e9 podemos aprender de \u00e9l sobre el lenguaje y las personas, no si puedo obtener la puntuaci\u00f3n m\u00e1s alta. Solo se puede construir m\u00e1s sobre esa comprensi\u00f3n m\u00e1s profunda que proporciona la investigaci\u00f3n fundamental.’\n <\/p>\n

\n

\u00bfChatGPT no est\u00e1 haciendo nada bien?
\n <\/h3>\n

\n

Estoy bastante asombrado por eso, pero de una manera c\u00ednica. Desde que OpenAI se hizo p\u00fablico en noviembre pasado, la infraestructura de ChatGPT se ha configurado para recolectar la mayor cantidad posible de nuestra inteligencia colectiva, sin compartirla con el resto del mundo. La cantidad de datos nuevos que pueden recopilar no tiene paralelo. Por ejemplo, por defecto, OpenAI guarda los chats que tienes con ChatGPT. Tambi\u00e9n te piden que les des pulgares hacia arriba o hacia abajo como retroalimentaci\u00f3n. Eso est\u00e1 muy bien hecho.\n <\/p>\n

\n

\u00bfNo perder\u00e1 en \u00faltima instancia frente a Google y OpenAI?
\n <\/h3>\n

\n

‘Calidad sin apertura no vale nada. Esperamos que nuestra investigaci\u00f3n contribuya a un programa mucho m\u00e1s amplio de cient\u00edficos que se ocupen de manera cr\u00edtica y consciente de esta tecnolog\u00eda. Creo que ese es tambi\u00e9n el poder de la ciencia: que podemos tomar una posici\u00f3n juntos. Tampoco debemos apresurarnos por todos los desarrollos. ChatGPT, debido a su naturaleza cerrada y motivo de lucro, es la peor elecci\u00f3n que puede hacer actualmente si desea utilizar un chatbot de manera responsable en la investigaci\u00f3n, la educaci\u00f3n o en cualquier otro lugar\u201d.\n <\/p>\n

\n
\n

\n \n \n <\/svg><\/p>\n

Meta pone a disposici\u00f3n de forma gratuita su modelo de lenguaje
\n <\/h4>\n

\n

Meta lanza la \u00faltima versi\u00f3n de su modelo de lenguaje de c\u00f3digo abierto (llamado Llama 2, Large Language Model Meta AI) disponible gratis <\/a>para investigaci\u00f3n y uso comercial, anunci\u00f3 el martes. “El c\u00f3digo abierto mejora la seguridad ya que m\u00e1s personas pueden examinar el software e identificar y solucionar posibles problemas”, dijo Mark Zuckerberg. Llama 2 tambi\u00e9n est\u00e1 incluido en la tabla de la Universidad de Radboud y no punt\u00faa bien all\u00ed.<\/a> Mark Dingemanse: ‘El t\u00e9rmino fuente abierta <\/i>usarlo para esto es como si Febo llamara a sus frikandellen org\u00e1nicos porque est\u00e1n en un recipiente que no est\u00e1 hecho de carne.’\n <\/p>\n<\/p><\/div>\n<\/p><\/div>\n