Una conocida revista de ciencia ficción ha dejado de aceptar presentaciones para nuevas historias, luego de verse abrumada por una tecnología en la que sus autores a menudo basan sus narrativas futuristas: la inteligencia artificial.
Clarkesworld, con sede en EE. UU., que ha publicado varios escritores de ciencia ficción galardonados en los últimos 17 años, se ha visto inundado por personas que envían cientos de historias escritas o mejoradas por IA generativa desde diciembre, cuando el chatbot ChatGPT de OpenAI se lanzó al público por primera vez. .
El lunes, Neil Clarke, el fundador y editor de Clarkesworld, tuiteó que había decidido cerrar las presentaciones actualmente luego de un aumento en las entradas mejoradas por IA.
Clarke dicho la revista había recibido más de 500 presentaciones mejoradas con IA en lo que va de febrero, más de cuatro veces el total de todo enero, y que era imposible filtrar manualmente o manejar el volumen de contenido en tiempo real.
“Hace cinco días, el gráfico que compartimos mostraba casi 350 de estas presentaciones. Hoy superó los 500. Cincuenta de ellos solo hoy, antes de que cerráramos las presentaciones para que podamos centrarnos en las historias legítimas”, dijo el lunes.
En un blog publicado este mes, Clarke agregó: «Para empeorar las cosas, la tecnología solo mejorará, por lo que la detección será más desafiante».
El impacto potencial de la IA generativa (software que produce texto, arte o código realistas en respuesta a indicaciones humanas) se está volviendo más evidente desde que la tecnología saltó a la palestra el año pasado.
Empresas como OpenAI, propietaria de ChatGPT, y otras que desarrollan tecnologías similares, ya se han visto envueltas en controversias con organizaciones de noticias, artistas e ingenieros de software que afirman que la IA reproduce y se basa en sus obras originales sin reconocimiento ni compensación.
Esta no es la primera vez que el spam generativo facilitado por la IA hace que los servicios se bloqueen: en diciembre, el sitio web de codificación de preguntas y respuestas Stack Overflow se vio obligado a prohibir las respuestas generadas por ChatGPT, alegando que estas respuestas inundaban su foro con información errónea.
Clarke dijo que se había puesto en contacto con otros editores que publicaban contenido original y que la situación «no era única». No reveló cómo había identificado las historias generadas por AI, y agregó que hay «algunos patrones muy obvios y no tengo intención de ayudar a que esas personas tengan menos probabilidades de ser atrapadas».
Las motivaciones detrás de las presentaciones de Clarkesworld no están claras. Algunos sugieren que es una forma para que la gente gane dinero rápidamente, ya que Clarkesworld paga a los escritores alrededor de 10 centavos por palabra por presentaciones de hasta 22,000 palabras.
Sería fácil para una sola persona falsificar su ubicación y enviar múltiples historias, dijo Eran Shimony, investigador de seguridad en el laboratorio de seguridad cibernética CyberArk.
Otros sugieren que podría ser una forma de que los escritores novatos aumenten sus posibilidades de ser publicados en la prestigiosa revista.
Sin embargo, algunos escritores advierten que la medida ahogará la creatividad, ya que el spam de IA obligará a los editores a limitar las ventanas de envío, ralentizar el ritmo de respuesta y, potencialmente, reducir sus tasas de pago.
“Las únicas personas que se ejercitarán serán las ya establecidas y conocidas. . . será mortal para los nuevos escritores”, dijo Shiv Ramdas, un escritor de ficción especulativa, en Twitter.
A principios de este mes, OpenAI lanzó una versión experimental herramienta para detectar contenido generado por IA, en un esfuerzo por abordar las preocupaciones de los educadores sobre el plagio, las trampas y otras formas de «deshonestidad académica». Sin embargo, sus investigadores dijeron que la herramienta solo identificó contenido generado por IA el 26 por ciento de las veces.