Una nueva herramienta, GPTZero, puede determinar si un texto ha sido producido por inteligencia artificial (IA). Con esto, se puede atrapar a los estudiantes dejando que los chatbots de IA como ChatGPT hagan su tarea.
Una herramienta web llamada GPTZero puede determinar con precisión si un ensayo ha sido creado por el chatbot de inteligencia artificial ChatGPT. Esto puede ayudar a exponer a los estudiantes que usan IA para cometer fraude. Sin embargo, la herramienta solo funcionará si la empresa detrás del popular chatbot mantiene públicos sus modelos de IA subyacentes.
La empresa detrás de ChatGPT, OpenAI, está trabajando en la marca de agua de sus textos de IA. Pero antes de que eso suceda, los usuarios pueden usar completamente el chatbot para fines nefastos. ChatGPT se puso a disposición del público en diciembre de 2022 y desde entonces ha sido utilizado por millones de personas. Hay numerosos informes de alumnos y estudiantes que dejan que el chatbot haga su tarea.
LEA TAMBIÉN
‘Determine de antemano cómo tratará a la extrema derecha’
Los medios contribuyen a normalizar las ideas de la extrema derecha, dice la politóloga Léonie de Jonge. Por lo tanto, deben poner límites a la…
Por lo tanto, el científico informático Edward Tian de la Universidad de Princeton en los EE. UU. ha desarrollado una herramienta, GPTZero, que prueba si un fragmento de texto se origina en ChatGPT. La herramienta utiliza la arquitectura de ChatGPT, que es pública. “Nuestros métodos utilizan el propio modelo de IA para evaluar si el resultado es un caso de plagio”, dice Tian.
Cuando alguien pega un texto en GPTZero, la herramienta utiliza una versión anterior del modelo de IA detrás de ChatGPT. De esta manera, determina la probabilidad de que el texto haya sido producido por la IA. GPTZero también analiza cómo varía esta probabilidad en las diferentes partes del texto. Los textos humanos pueden verse y no verse como un texto de IA, pero en los textos de IA esa probabilidad es más constante, dice Tian.
Los investigadores probaron la herramienta en artículos que escribió ChatGPT basados en titulares de noticias de BBC News. GPTZero juzgó correctamente los textos en alrededor del 98 por ciento de los casos. En menos del 1 por ciento de los casos, etiquetó el artículo como texto de IA cuando en realidad era de un creador humano.
Transparencia
Las herramientas de detección como GPTZero a menudo solo funcionan temporalmente, hasta que los modelos de IA aprenden a eludir estas herramientas. Pero Tian cree que su sistema funcionará durante mucho tiempo porque utiliza las estructuras de la IA. “Mientras OpenAI mantenga sus modelos públicos, la herramienta de detección estará un paso adelante”, dice Tian.
Un portavoz de OpenAI subraya que están comprometidos con la transparencia en torno al uso de la IA para escribir textos. “Pedimos a los usuarios que se abran a su audiencia cuando utilicen nuestras herramientas creativas como DALL-E y ChatGPT. No queremos que ChatGPT se utilice con fines engañosos en las escuelas ni en ningún otro lugar. Por lo tanto, estamos desarrollando formas de ayudar a todos a identificar los textos escritos por ese sistema.’
Carrera por la verdad
Herramientas como GPTZero no son nuevas, dice informático Yulan He del King’s College de Londres. En 2019 se lanzó una herramienta similar de investigadores del MIT, IBM y Harvard. Mira palabras individuales que indican que el texto ha sido generado por inteligencia artificial. El éxito de ChatGPT ha hecho que estas herramientas sean mucho más relevantes.
About the Author
