\n<\/p>\n
ChatGPT, un chatbot de inteligencia artificial de la empresa OpenAI, ha causado un gran revuelo con sus textos inquietantemente humanos. \u00bfPuede la legislaci\u00f3n hacer algo sobre los usos turbios de la tecnolog\u00eda? “Esto va a ser un juego del gato y el rat\u00f3n”.<\/p>\n
<\/p>\n
‘\u00a1El ADN de los canales de \u00c1msterdam es una revelaci\u00f3n que pondr\u00e1 patas arriba el mundo para los cient\u00edficos! Despu\u00e9s de a\u00f1os de investigaci\u00f3n, los cient\u00edficos han desentra\u00f1ado el genoma completo de los canales de \u00c1msterdam, y lo que han descubierto es una sensaci\u00f3n absoluta.’ Bueno, eso es lo que obtienes cuando le pides a ChatGPT que escriba un ‘art\u00edculo cient\u00edfico de divulgaci\u00f3n sin aliento’ sobre un tema t\u00edpico de Parool, a saber, ‘el ADN de los canales de \u00c1msterdam’.<\/p>\n
El modelo de generaci\u00f3n de texto con inteligencia artificial (IA) GPT-3 ha causado recientemente un gran revuelo con sus textos inquietantemente humanos. GPT-3 es un modelo de lenguaje basado en aprendizaje profundo<\/em>, donde miles de millones de p\u00e1ginas de texto se han reducido a la configuraci\u00f3n de las c\u00e9lulas cerebrales artificiales de un sistema inform\u00e1tico. Ahora emite textos aparentemente sensatos a pedido, a trav\u00e9s del chatbot ChatGPT.<\/p>\n \t\t\tLEA TAMBI\u00c9N Puedes darle comandos a ChatGPT, donde recuerda de qu\u00e9 debe tratarse, cu\u00e1l es la historia y en qu\u00e9 estilo debe ser el producto final. Incluso puede enviarlo de vuelta para que lo corrijan. Desde guiones de pel\u00edculas hasta poemas de vanguardia y obras de divulgaci\u00f3n cient\u00edfica, ChatGPT no se da por vencido. <\/p>\n Sin embargo, no hay garant\u00eda alguna de que el resultado tenga sentido, y mucho menos de que sea cierto (los canales no tienen ADN). Y eso es un problema. Empresas como OpenAI se hacen la boca agua con las aplicaciones Ventas<\/em>, marketing o producci\u00f3n de software, o redacci\u00f3n de art\u00edculos, ficci\u00f3n y guiones. Pero algunas aplicaciones son m\u00e1s oscuras: plagio, estafas, robo, propaganda y noticias falsas.<\/p>\n Piense no solo en los escolares y estudiantes que subcontratan sus tareas (‘Escribe una tarea escolar sobre los canales de \u00c1msterdam’), sino tambi\u00e9n en los estafadores que saquean dinero enviando recordatorios alarmantes a personas vulnerables, pero sin errores de lenguaje y adaptados con precisi\u00f3n a la v\u00edctima.<\/p>\n Esta ‘automatizaci\u00f3n de la persuasi\u00f3n’, por ejemplo, es muy similar al trabajo del chatbot de la empresa americana DoNotPay. Arregla autom\u00e1ticamente asuntos como impugnar multas de estacionamiento, pero tambi\u00e9n anot\u00f3 los costos de una conexi\u00f3n a Internet en un chat (aunque ten\u00eda que mentir sobre qu\u00e9 tan mala era la conexi\u00f3n a Internet). Pr\u00e1ctico para el vendedor de coches de segunda mano. Pero las empresas tambi\u00e9n pueden jugar ese truco. En el futuro, el servicio de atenci\u00f3n al cliente lo ignorar\u00e1 de manera elocuente y totalmente autom\u00e1tica.<\/p>\n Los generadores de texto en particular son una bendici\u00f3n para los productores de propaganda y noticias falsas. Las f\u00e1bricas de trolls rusas y otros productores de noticias falsas pueden despedir personal e inundar las redes sociales de forma m\u00e1s r\u00e1pida y econ\u00f3mica con mensajes incendiarios, tendenciosos y falsos.<\/p>\n Estas preocupaciones no son completamente nuevas: GPT-3 es un desarrollo adicional de los generadores de texto anteriores que tambi\u00e9n causaron consternaci\u00f3n. Y antes, los generadores de im\u00e1genes como DALL-E causaban problemas con falsificaciones profundas<\/em>: im\u00e1genes fotorrealistas de hechos que nunca sucedieron.<\/p>\n Scott Aaronson, cient\u00edfico inform\u00e1tico de OpenAI, reconoce los posibles problemas. “Queremos que sea mucho m\u00e1s dif\u00edcil fingir que la salida de un sistema de IA es la de un humano”, dijo durante una charla cient\u00edfica sobre una “marca de agua” que deber\u00eda hacer que los textos de IA como GPT-3 sean detectables.<\/p>\n Esto funciona de la siguiente manera: GPT-3 a menudo puede elegir entre varias palabras al construir sus textos. Al elegir esas palabras de acuerdo con un patr\u00f3n determinado, el texto puede recibir una especie de se\u00f1al que se puede detectar con un software: un sello de inautenticidad.<\/p>\n Por supuesto, tal cosa solo funciona con fragmentos de texto m\u00e1s largos y se puede eludir; por ejemplo, pidi\u00e9ndole a otra IA que reformule el texto en diferentes palabras. Adem\u00e1s, el productor del software debe cooperar en esto.<\/p>\n Otra opci\u00f3n es entrenar a otra IA para que reconozca textos escritos por otras IA. Investigadores de la Universidad de Washington trabajan en una IA que no est\u00e1 sola noticias falsas <\/em>puede escribir, pero tambi\u00e9n puede detectarlo. Grover, como se llama el programa, es particularmente bueno para detectar sus propias noticias falsas (92 por ciento).<\/p>\n \u201cNecesitamos instrumentos t\u00e9cnicos, similares a los herramientas<\/em> que ya existen antes falsificaciones profundas <\/em>y detectar fotos manipuladas”, dijo Sandra Wachter, investigadora de tecnolog\u00eda y regulaci\u00f3n del Instituto de Internet de Oxford, en una entrevista con la revista de tecnolog\u00eda estadounidense cableado<\/em>.<\/p>\n El \u00faltimo recurso es la legislaci\u00f3n. La Uni\u00f3n Europea est\u00e1 preparando un proyecto de ley, la AI Act, que deber\u00eda establecer l\u00edmites en el uso de los sistemas de IA. Por ejemplo, una empresa siempre debe hacerle saber que no est\u00e1 hablando con un ser humano. Estados Unidos, Reino Unido y Canad\u00e1 tambi\u00e9n est\u00e1n trabajando en la legislaci\u00f3n de IA. <\/p>\n Pero la legislaci\u00f3n puede evadirse y tiende a quedar rezagada con respecto a la tecnolog\u00eda. ChatGPT es un ejemplo de esto. Wachter predice: “Este ser\u00e1 un juego del gato y el rat\u00f3n”.<\/p>\n<\/p><\/div>\n
Las aplicaciones de entrenamiento mental carecen de respaldo cient\u00edfico\n\t\t\t<\/p>\nal mando<\/h2>\n
Mentir<\/h2>\n
Filigrana<\/h2>\n
Legislaci\u00f3n<\/h2>\n