\n<\/p>\n
Una nueva herramienta, GPTZero, puede determinar si un texto ha sido producido por inteligencia artificial (IA). Con esto, se puede atrapar a los estudiantes dejando que los chatbots de IA como ChatGPT hagan su tarea.<\/p>\n
<\/p>\n
Una herramienta web llamada GPTZero puede determinar con precisi\u00f3n si un ensayo ha sido creado por el chatbot de inteligencia artificial ChatGPT. Esto puede ayudar a exponer a los estudiantes que usan IA para cometer fraude. Sin embargo, la herramienta solo funcionar\u00e1 si la empresa detr\u00e1s del popular chatbot mantiene p\u00fablicos sus modelos de IA subyacentes.<\/p>\n
La empresa detr\u00e1s de ChatGPT, OpenAI, est\u00e1 trabajando en la marca de agua de sus textos de IA. Pero antes de que eso suceda, los usuarios pueden usar completamente el chatbot para fines nefastos. ChatGPT se puso a disposici\u00f3n del p\u00fablico en diciembre de 2022 y desde entonces ha sido utilizado por millones de personas. Hay numerosos informes de alumnos y estudiantes que dejan que el chatbot haga su tarea.<\/p>\n
\t\t\t\tLEA TAMBI\u00c9N<\/p>\n
\t\t\t\t\t‘Determine de antemano c\u00f3mo tratar\u00e1 a la extrema derecha’
\n\t\t\t\t<\/h4>\n
\t\t\t\t\tLos medios contribuyen a normalizar las ideas de la extrema derecha, dice la polit\u00f3loga L\u00e9onie de Jonge. Por lo tanto, deben poner l\u00edmites a la…\n\t\t\t\t<\/p>\n<\/p><\/div>\n
Por lo tanto, el cient\u00edfico inform\u00e1tico Edward Tian de la Universidad de Princeton en los EE. UU. ha desarrollado una herramienta, GPTZero, que prueba si un fragmento de texto se origina en ChatGPT. La herramienta utiliza la arquitectura de ChatGPT, que es p\u00fablica. “Nuestros m\u00e9todos utilizan el propio modelo de IA para evaluar si el resultado es un caso de plagio”, dice Tian.<\/p>\n
Cuando alguien pega un texto en GPTZero, la herramienta utiliza una versi\u00f3n anterior del modelo de IA detr\u00e1s de ChatGPT. De esta manera, determina la probabilidad de que el texto haya sido producido por la IA. GPTZero tambi\u00e9n analiza c\u00f3mo var\u00eda esta probabilidad en las diferentes partes del texto. Los textos humanos pueden verse y no verse como un texto de IA, pero en los textos de IA esa probabilidad es m\u00e1s constante, dice Tian.<\/p>\n
Los investigadores probaron la herramienta en art\u00edculos que escribi\u00f3 ChatGPT basados \u200b\u200ben titulares de noticias de BBC News. GPTZero juzg\u00f3 correctamente los textos en alrededor del 98 por ciento de los casos. En menos del 1 por ciento de los casos, etiquet\u00f3 el art\u00edculo como texto de IA cuando en realidad era de un creador humano.<\/p>\n
Las herramientas de detecci\u00f3n como GPTZero a menudo solo funcionan temporalmente, hasta que los modelos de IA aprenden a eludir estas herramientas. Pero Tian cree que su sistema funcionar\u00e1 durante mucho tiempo porque utiliza las estructuras de la IA. \u201cMientras OpenAI mantenga sus modelos p\u00fablicos, la herramienta de detecci\u00f3n estar\u00e1 un paso adelante\u201d, dice Tian.<\/p>\n
Un portavoz de OpenAI subraya que est\u00e1n comprometidos con la transparencia en torno al uso de la IA para escribir textos. \u201cPedimos a los usuarios que se abran a su audiencia cuando utilicen nuestras herramientas creativas como DALL-E y ChatGPT. No queremos que ChatGPT se utilice con fines enga\u00f1osos en las escuelas ni en ning\u00fan otro lugar. Por lo tanto, estamos desarrollando formas de ayudar a todos a identificar los textos escritos por ese sistema.’<\/p>\n
Herramientas como GPTZero no son nuevas, dice inform\u00e1tico Yulan He<\/a> del King’s College de Londres. En 2019 se lanz\u00f3 una herramienta similar de investigadores del MIT, IBM y Harvard. Mira palabras individuales que indican que el texto ha sido generado por inteligencia artificial. El \u00e9xito de ChatGPT ha hecho que estas herramientas sean mucho m\u00e1s relevantes. <\/p>\n<\/p><\/div>\n