OpenAI presentado a herramienta que indica si un texto fue generado por una inteligencia artificial (IA) o escrito por un humano. Sin embargo, la compañía estadounidense advierte que no es no es 100% confiable.
ChatGPT preocupa al profesorado
Lanzado en diciembre, ChatGPT es una IA conversacional capaz de formular respuestas similares a las de un humano, pero también de reconocer sus errores. Desde su despliegue, la herramienta es aclamada en todo el mundo, tanto es así que la valoración de la empresa que lo desarrolló, OpenAI, ha aumentado considerablemente. Por su parte, Microsoft ha anunciado que invertirá 10.000 millones de dólares en la empresa y tiene previsto integrar ChatGPT en su suite de Azure, así como en Bing.
El rendimiento de la IA preocupa tanto como fascina, especialmente aquellos que trabajan en el sector de la educación, ChatGPT que pueden usar los estudiantes para escribir textos. Como resultado, las escuelas de Nueva York prohibieron su uso, al igual que Sciences Po en Francia. Consciente de esta tendencia, OpenAI acaba de presentar su nueva herramienta.
” Sabemos que identificar textos escritos por IA ha sido un punto importante de discusión entre los docentes, y es igualmente importante reconocer las limitaciones y los impactos de los clasificadores de texto generados por IA en el aula. “, escribe la empresa en una entrada de blog.
Una herramienta aún no del todo fiable
El modelo que alimenta la herramienta fue entrenado usando ” pares de textos escritos por humanos y textos escritos por AI sobre el mismo tema “dice OpenAI. Para usarlo, debe tener una cuenta gratuita en el sitio web de la empresa, luego simplemente pegue el texto que desea analizar, de al menos 1000 caracteres para una eficiencia óptima. El dispositivo entonces dará su respuesta.
Sin embargo, ten cuidado. ” Nuestro clasificador no es del todo fiable. En nuestras evaluaciones de un conjunto de textos en inglés, identificó correctamente el 26 % de los textos escritos por IA como “probablemente escritos por IA”, mientras que etiquetó incorrectamente los textos escritos por humanos como escritos por IA en el 9 % de los casos. La confiabilidad de nuestro clasificador generalmente mejora a medida que aumenta la longitud del texto de entrada “explica OpenAI.
Otros modelos de idiomas llegarán al mercado
” Si bien este recurso está destinado a educadores, esperamos que nuestro clasificador y las herramientas de clasificación asociadas tengan un impacto en periodistas, investigadores de desinformación y otros grupos. “dice la empresa. De hecho, los medios estadounidenses ya anunciaron que ChatGPT se usaría para crear contenido.
Los modelos de procesamiento del lenguaje están destinados a revolucionar varios campos. Si por ahora ChatGPT es el ejemplo más llamativo, debe ser competido por otros sistemas en el futuro. Google ha estado trabajando durante varios años en LaMDA, también una IA conversacional que ha causado algunos problemas internos; la firma de Mountain View despidió a uno de sus empleados que afirmó que la modelo era capaz de sentir emociones. En este momento, LaMDA solo está disponible de forma muy limitada. En China, Baidu también está desarrollando su propio ChatGPT.