Las universidades y las escuelas se esfuerzan por descubrir cómo integrar ChatGPT en la educación. Hasta ahora, los casos de abuso han resultado difíciles de probar. “Es una ilusión decir que todavía podemos ignorar esto”.
Se inició una investigación en la Universidad de Amberes sobre un estudiante que pudo haber cometido fraude. El portavoz Peter De Meyer dice que existe la sospecha de que este estudiante ha utilizado inteligencia artificial (IA). No puede dar más detalles sobre la investigación en curso. Pero el abuso es difícil de probar. “Todavía no hay un software concluyente, los métodos de detección aún no son 100 por ciento herméticos”, dice De Meyer.
Ser capaz de detectar ChatGPT es un tema candente en la educación. En diciembre, el desarrollador OpenAI dijo que pondría una marca de agua en la salida de ChatGPT para evitar el plagio. La compañía ahora ha lanzado una herramienta que puede detectar el fraude.
El sistema no es en absoluto perfecto. En una prueba realizada por los creadores, el programa reconoció solo el 26 por ciento de los textos en inglés escritos por ChatGPT. El nueve por ciento de las piezas con autor humano fueron identificadas incorrectamente como producto de la inteligencia artificial.
Por lo tanto, los creadores recomiendan no confiar completamente en él y solo analizar textos en inglés con él. En el futuro, OpenAI espera presentar una versión que sea más eficiente y domine más idiomas. Otras compañías en todo el mundo también están trabajando arduamente para desarrollar detectores.
Agregar un error ortográfico
Pero ningún sistema de detección es hermético. Por lo tanto, probar el abuso es prácticamente imposible en este momento, dice el profesor de Lingüística Computacional Walter Daelemans (UAntwerp). Los escáneres de plagio clásicos no funcionan, porque los textos que se deslizan fuera de ChatGPT se construyen a partir de fragmentos de innumerables textos. Por lo tanto, no puede mostrar de dónde proviene exactamente el texto.
ChatGPT es un modelo de lenguaje, explica el profesor Daelemans. “Puedes pedir de diferentes maneras escribir un texto sobre un tema determinado y luego recibirás diferentes textos en diferentes estilos”. Los métodos de detección que existen ahora pueden ser eludidos fácilmente por un estudiante pidiéndole explícitamente a ChatGPT que escriba un texto como humano y no como un modelo de lenguaje. O incluso más fácil: ajustando un poco el texto, añadiendo algún texto o un error de idioma, por ejemplo.
Integrar en la educación
Es mejor adoptar la tecnología, por lo que parece ser el punto de partida para las instituciones gubernamentales flamencas. La Universidad de Amberes está desarrollando actualmente una política para hacer frente a la IA. Se están afinando las normas de examen vigentes. Posteriormente, la universidad examinará todas las formas de evaluación. Esto puede generar una carga de trabajo adicional para el personal docente, y este año académico ya no se pueden implementar cambios en las formas de evaluación.
Con los exámenes orales y escritos, el riesgo de usar ChatGPT no es tan grande, dice Peter De Meyer. Pero también hay cursos en los que te evalúan en un trabajo que haces en casa. Eso es más arriesgado. Una opción es agregar una parte oral, para que un alumno defienda el trabajo.
Parte de la nueva política es principalmente la integración de la IA en la educación. Por lo tanto, la universidad ciertamente no planea volver a la pluma y el papel, al igual que las universidades australianas. De Meyer es inflexible: “AI está aquí para nunca irse. Cada vez es más grande y más fácil de acceder. Es una ilusión decir que podemos ignorar eso”.
El punto de partida es que los estudiantes puedan usar la IA en condiciones controladas para llegar a un producto final mejor y más creativo. Walter Daelemans ya es fan. ChatGPT es una herramienta poderosa para usar en la educación, dice. ¿Cómo? Dándole la tarea de hacer que un texto escrito por uno mismo sea más convincente o divertido, por ejemplo.
Educación preparada para el futuro
La Universidad de Amberes no es la única que trabaja en el tema. GO!, la educación de la comunidad flamenca, viene con un manual que contiene consejos concretos sobre cómo las escuelas pueden manejar la IA y funciones como ChatGPT. También parten del hecho de que este tipo de aplicaciones nuevas no desaparecerán y solo mejorarán.
UGent no puede confirmar en este momento que ciertos archivos puedan estar vinculados a ChatGPT. La universidad está investigando el impacto que tiene la IA en las formas de evaluación, como trabajos, tesis y exámenes. También enfatiza que la universidad está atenta a las posibilidades de la IA y que está trabajando en consejos didácticos concretos para los profesores de la Universidad de Gante. Esto en consulta con especialistas en IA.
Lista de fuentes
Los desarrollos en el software de detección se siguen de cerca en el mundo de la educación, pero actualmente ningún manual describe cómo se puede detectar el abuso.
La lista de recursos actualmente parece ser la única vulnerabilidad en el sistema de ChatGPT. “La acreditación es un desastre absoluto en el modelo. no puede Inventa artículos que no existen”, dice Walter Daelemans. La forma en que funciona el modelo de lenguaje no permite citas de fuentes adecuadas precisamente porque se reconstruye a partir de varios fragmentos de Internet.
Daelemans espera especialmente que se creen entornos educativos en los que los estudiantes aprendan a entrenar con modelos como ChatGPT. “Y quiero aprender a escribir mejor que uno de esos estúpidos modelos de lenguaje”.