ChatGPT llevaba apenas unas semanas en el mercado y el pánico en las instituciones educativas ya era grande. Muchos profesores se dieron cuenta de que el chatbot impulsado por IA del estadounidense OpenAI cambiará radical y permanentemente la educación. Después de todo, la herramienta de IA sorprendió al mundo con su capacidad de generar diversas respuestas, resúmenes y textos: desde recetas y poemas hasta estudios de aspecto científico.
Como los textos que produce ChatGPT son nuevos, los escáneres de plagio no pueden detectarlos, según se informó en enero al personal docente de la Facultad de Humanidades de la Universidad de Utrecht. “Esto significa que estamos ante un programa que asume tareas de los estudiantes.” Los chatbots “formarán parte de nuestras vidas en el futuro”.
Sobre el Autor
Laurens Verhagen es editor científico de de Volkskrant. Escribe sobre tecnología, Internet e inteligencia artificial. Antes de eso, fue editor en jefe, entre otras cosas nu.nl.
Ha pasado un año y una conclusión sigue en pie: ChatGTP y otros chatbots se han convertido en parte de la vida de muchas personas, mucho más rápido de lo que nadie esperaba a finales de 2022. Según los resultados, casi uno de cada tres consumidores holandeses utiliza a veces las llamadas herramientas de IA generativa en su vida diaria, de las cuales ChatGPT es, con diferencia, la más conocida y utilizada. investigación reciente de Deloitte.
Los consumidores holandeses utilizan actualmente herramientas de IA generativa predominantemente para fines privados y, en menor medida, para trabajar, estudiar y estudiar. Se espera que el uso crezca durante el próximo año, especialmente ahora que Microsoft y Google están integrando chatbots en su software de oficina de uso común, como Office y Gmail. Sin embargo, su uso no está exento de controversia. ¿Qué nos ha enseñado un año de ChatGPT? Cinco lecciones.
1. Los chatbots ‘alucinan’
Poco después de los primeros éxitos entusiastas surgió la disidencia crítica: el chatbot es como el tío borracho que explica con mucha firmeza las relaciones geopolíticas en el escenario mundial en una fiesta sin saber de qué está hablando. ChatGPT puede parecer muy convincente al usuario debido a sus respuestas bien formuladas, pero es y sigue siendo un modelo de lenguaje que llega a sus resultados basándose en estadísticas.
ChatGPT puede generar de manera convincente tonterías gramaticalmente correctas, un fenómeno al que a menudo se hace referencia con el término engañoso “alucinación”. Los ejemplos ahora son numerosos, como el del abogado estadounidense que se equivocó tras utilizar ChatGPT. utilizado para la preparación de un caso y el chatbot presentó jurisprudencia. El abogado pensó erróneamente que se trataba de algún tipo de motor de búsqueda. Quizás sea la lección más importante: un modelo de lenguaje, por muy avanzado que sea, carece de conocimientos básicos del mundo.
2. El texto es sólo el comienzo
“Multimodalidad” es la nueva palabra de moda entre las empresas de IA. En otras palabras: chatbots que también pueden comunicarse mediante voz o imagen. Piensa en una imagen del contenido de un frigorífico y en la pregunta: “¿Qué receta puedo hacer con estos ingredientes?”.
Los próximos pasos ya se están presentando: analizar y generar vídeos. Además, OpenAI anunció recientemente la llegada de los llamados GPT: cualquiera puede lanzar al mercado bots especializados utilizando la tecnología ChatGPT. Por ejemplo, el fotógrafo estadounidense Trey Ratcliff creó Fun & Critical Photo Critique GPT, que, en su estilo, proporciona comentarios expertos sobre las fotografías que sube el usuario.
3. OpenAI no es abierto (sino comercial)
El primer aniversario estuvo a punto de arruinarse la semana pasada por la extraña lucha de poder dentro de OpenAI, en la que la junta directiva destituyó por primera vez al director ejecutivo Sam Altman, tras lo cual regresó.
El núcleo del conflicto radica en los intereses en conflicto entre la organización sin fines de lucro y Altman. El primero aboga por un enfoque responsable del espíritu empresarial, en el que Altman y sus asociados conceden especial importancia a acelerar y aumentar la cuota de mercado. El campo comercial de Altman ahora parece haber salido victorioso de esa batalla.
Entonces OpenAI no existe principalmente para hacer del mundo un lugar mejor, pero especialmente para mantener contentos a los accionistas, lo que coloca a la empresa claramente en línea con otras grandes empresas tecnológicas, si no lo hubiera hecho ya.
4. Los chatbots tienen un lado oscuro
Cuando New York TimesEl periodista Kevin Roose tuvo una conversación particularmente extraña con un chatbot en febrero en la que mostró un comportamiento celoso e intrusivo; muchos vieron esto como un lado oscuro de la nueva tecnología. Un pensamiento atractivo, pero no era más que el vocabulario más plausible que el robot escupió en ese momento, dentro de ese contexto.
El lado verdaderamente oscuro está mucho más cerca de casa. Por ejemplo, los modelos de lenguaje detrás de chatbots como ChatGPT solo pueden funcionar gracias al trabajo de trabajadores mal pagados y, a veces, menores de edad, necesarios para perfeccionar esos modelos. Además, los bots han sido entrenados con innumerables trabajos periodísticos y (no)ficción, sin pedir permiso a sus editores. Los casos legales al respecto aún están en curso.
Otro problema: entrenar y mantener en funcionamiento todas esas hermosas herramientas de inteligencia artificial requiere grandes cantidades de energía y agua para enfriar las pesadas computadoras. Por último, los potentes chatbots también pueden utilizarse con fines menos nobles, como fabricar deliberadamente desinformación.
5. La IA no es un sustituto, sino un complemento
Es un debate acalorado dentro de la comunidad de la IA: la cuestión de si en algún momento la IA se volverá tan versátil e inteligente que dominará y, por tanto, eclipsará a los humanos en todos los ámbitos, con todos los peligros existenciales que ello conlleva. Dentro de OpenAI, casi todo el mundo parece creer firmemente en la llegada de ese tipo de AGI, la Inteligencia General Artificial. Sin embargo, hasta el momento no hay indicios de ello, a pesar de todas las promesas y advertencias. ChatGPT puede parecer humano, pero por el momento la IA y los humanos todavía se complementan bien.