\n<\/p>\n
La inteligencia artificial (IA) genera textos en un instante. Como resultado, los detectores de IA ser\u00e1n tan malos para reconocer un texto de IA como alguien que lanza una moneda.<\/p>\n
<\/p>\n
Determinar de manera confiable si un texto est\u00e1 hecho por AI o no puede ser imposible. que aparece de nueva demostraci\u00f3n matem\u00e1tica<\/a>.<\/p>\n La facilidad con la que los modelos de IA generan textos que son indistinguibles de los textos humanos ya est\u00e1 generando problemas: los estudiantes sacan sus ensayos de chatGTP y masivamente campa\u00f1as de desinformaci\u00f3n<\/a> ponerse de pie.<\/p>\n \t\t\t\tLEA TAMBI\u00c9N<\/p>\n \t\t\t\t\t\u00bfVolver\u00e1 a haber gente en la Luna en 2025? \t\t\t\t\tEn dos a\u00f1os, los astronautas de Artemis 3 cruzar\u00e1n la luna, insiste la NASA. \u00bfEl \u00e9xito reciente de Artemis 1 prueba esa fecha l\u00edmite despu\u00e9s de todo…\n\t\t\t\t<\/p>\n<\/p><\/div>\n Las ideas para combatir ese abuso incluyen una especie de marca de agua oculta en los textos de la IA, o la b\u00fasqueda de patrones en los textos que solo producir\u00eda una IA.<\/p>\n Cient\u00edfico de la computaci\u00f3n Soheil Feizi<\/a> y sus colegas de la Universidad de Maryland en los Estados Unidos afirman ahora que han probado matem\u00e1ticamente que estas t\u00e9cnicas de desenmascaramiento de IA no son confiables. Esto se debe a la combinaci\u00f3n de programas de par\u00e1frasis y modelos de IA. Si un estudiante tiene un ensayo escrito por chatGTP y luego lo pasa por un programa de par\u00e1frasis, reduce dr\u00e1sticamente la efectividad de una marca de agua. Adem\u00e1s, los textos de los modelos de lenguaje se volver\u00e1n matem\u00e1ticamente m\u00e1s similares al lenguaje humano a medida que mejoren los modelos.<\/p>\n Para demostrar esto, Feizi y su equipo utilizaron herramientas de par\u00e1frasis basadas en IA para reformular un texto generado por IA. Ingresaron ese nuevo texto en varios detectores de texto de IA. La mayor\u00eda de los detectores entonces solo ten\u00edan una eficiencia del 50 por ciento. \u201cVemos una gran ca\u00edda en el rendimiento de los detectores. Se reducen a la precisi\u00f3n de un predictor arbitrario\u201d, dice Feizi.<\/p>\n Los investigadores han utilizado una prueba matem\u00e1tica, la llamada resultado imposible<\/em>, muestran que los detectores de IA son cada vez m\u00e1s dif\u00edciles. La raz\u00f3n es que la elecci\u00f3n de palabras de los modelos de IA se est\u00e1 volviendo cada vez m\u00e1s humana. Es por eso que los detectores etiquetar\u00e1n incorrectamente demasiados textos como IA, o muy pocos, de modo que los textos reales de IA ya no se destacar\u00e1n. La demostraci\u00f3n matem\u00e1tica es una prepublicaci\u00f3n, por lo que a\u00fan no se ha publicado. revisi\u00f3n por pares<\/em> someterse.<\/p>\n \u201cA todos los efectos pr\u00e1cticos, incluso el mejor detector, ya sea que exista o est\u00e9 por desarrollarse, no va a ser muy bueno\u201d, dice Feizi. ‘Tal modelo en realidad estar\u00e1 muy cerca de lanzar una moneda al aire. Nunca podremos determinar de manera confiable si un texto fue creado por un humano o por un modelo de IA. Creo que tenemos que aprender a vivir con ese hecho”, dice Feizi.<\/p>\n Cient\u00edfico de la computaci\u00f3n Yulan He<\/a> del King’s College London sugiere que deber\u00edamos tratar de comprender las consecuencias de los modelos de IA, en lugar de dedicar mucho tiempo a construir detectores de IA. “\u00bfQu\u00e9 riesgos traen estos modelos de IA a nuestras vidas y c\u00f3mo podemos usarlos como IA \u00fatiles para nosotros mismos?”<\/p>\n<\/p><\/div>\n\n
\n\t\t\t\t<\/h4>\nErrores del detector<\/strong><\/h2>\n
Consecuencias<\/strong><\/h2>\n