{"id":936560,"date":"2023-09-05T06:03:54","date_gmt":"2023-09-05T06:03:54","guid":{"rendered":"https:\/\/teknomers.com\/es\/economista-koen-schoors-la-revolucion-de-la-ia-tambien-tiene-un-lado-oscuro\/"},"modified":"2023-09-05T06:03:58","modified_gmt":"2023-09-05T06:03:58","slug":"economista-koen-schoors-la-revolucion-de-la-ia-tambien-tiene-un-lado-oscuro","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/economista-koen-schoors-la-revolucion-de-la-ia-tambien-tiene-un-lado-oscuro\/","title":{"rendered":"Economista Koen Schoors: ‘La revoluci\u00f3n de la IA tambi\u00e9n tiene un lado oscuro’"},"content":{"rendered":"\n
\n

\n

La forma de IA que m\u00e1s captura la imaginaci\u00f3n del p\u00fablico son las llamadas ‘grandes modelos de lenguaje’<\/i>, usando ChatGPT como ejemplo. Estos gigantescos modelos de lenguaje son en s\u00ed mismos el resultado de una serie de algoritmos entrelazados y est\u00e1n entrenados en conjuntos de datos masivos. El resultado es un modelo supercomplejo con muchos miles de millones de par\u00e1metros, del que nadie sabe exactamente c\u00f3mo ni por qu\u00e9 funciona, pero que genera texto apenas distinguible del texto humano y asume muchas tareas humanas sin problemas. Escalofriante.\n <\/p>\n

\n

Los estudiantes los utilizan para tareas, trabajos de redacci\u00f3n, debates y rese\u00f1as de libros. Los universitarios piden ayuda para redactar textos, presentaciones y proponer t\u00edtulos. Adem\u00e1s, estos modelos de lenguaje tambi\u00e9n hablan lenguajes inform\u00e1ticos. P\u00eddale al sistema que escriba el c\u00f3digo de computadora para un problema espec\u00edfico y obtendr\u00e1 algo sorprendentemente bien elaborado. Muchas tareas que pens\u00e1bamos que requer\u00edan creatividad y conocimiento humanos se realizan en un abrir y cerrar de ojos gracias a estos modelos generativos. El potencial para un cambio disruptivo es enorme.\n <\/p>\n

\n

noticias falsas
\n <\/h3>\n

\n

Muchas empresas y gobiernos ya est\u00e1n aprovechando al m\u00e1ximo la IA. Entrene uno de estos modelos con buenos textos espec\u00edficos para su producto o su problema espec\u00edfico y enriquezca ese modelo con algunas caracter\u00edsticas nuevas creadas espec\u00edficamente para las necesidades de sus clientes, y despu\u00e9s de algo de capacitaci\u00f3n y algunos comentarios humanos obtendr\u00e1 algo que funciona inquietantemente bien. Olv\u00eddate de la lista Preguntas frecuentes<\/i> en tu sitio web. Pronto, la IA responder\u00e1 con precisi\u00f3n no solo a las preguntas m\u00e1s frecuentes sino tambi\u00e9n a las preguntas sobre detalles t\u00e9cnicos en una nota a pie de p\u00e1gina.\n <\/p>\n

\n

Pero esta revoluci\u00f3n tambi\u00e9n tiene un lado oscuro. Este grandes modelos de lenguaje<\/i> Reducir a cero los costes de producci\u00f3n de tonter\u00edas, noticias falsas y mentiras polarizadoras. Si una organizaci\u00f3n o un estado delincuente quiere impulsar una historia falsa, una teor\u00eda de la conspiraci\u00f3n o cierto prejuicio, simplemente alimenta su modelo solo con variantes de texto que coincidan. Si alimenta el modelo de IA lo suficiente con ese tipo de recursos, el sistema producir\u00e1 sin problemas interacciones de texto comprensibles y cre\u00edbles que alimentan las noticias falsas, alimentan la teor\u00eda de la conspiraci\u00f3n y magnifican los prejuicios.\n <\/p>\n

\n

Enemigos de la democracia
\n <\/h3>\n

\n

Se vuelve f\u00e1cil permitir que un ej\u00e9rcito de cuentas falsas genere conversaciones impulsadas por diferentes versiones de un modelo de IA corrupto subyacente. Y esas cuentas podr\u00edan conversar con personas reales de manera comprensible e incluso humana, manipulando deliberadamente sus opiniones. El despliegue masivo de estos nuevos modelos en el espacio abierto de la informaci\u00f3n hace que sea un juego de ni\u00f1os inundar las democracias con mensajes polarizados y perfilados y destruirlas. Tengan la seguridad de que los enemigos de la democracia ya est\u00e1n trabajando en esto.\n <\/p>\n

\n

Peor a\u00fan, si se utiliza la IA de forma inteligente, se puede incluso socavar el concepto de verdad. Se vuelve tan f\u00e1cil bombardear a la gente con una avalancha de historias de mierda que suenan bien y con mensajes contradictorios que simplemente abandonan la b\u00fasqueda de la verdad.\n <\/p>\n

\n

Personalidad legal
\n <\/h3>\n

\n

As\u00ed, la idea de una “base de hechos” com\u00fan desaparece y el campo de juego queda completamente en manos de manipuladores y propaganda. Si las personas mismas no tienen forma de encontrar la verdad, abandonar los estudios se convierte en la \u00fanica opci\u00f3n. Pero entonces tambi\u00e9n desaparecer\u00e1 el tejido socioecon\u00f3mico sobre el que se construye nuestro contrato social.\n <\/p>\n

\n

Por lo tanto, no sorprende que algunos padres de la IA se est\u00e9n volviendo ahora contra su propia creaci\u00f3n. A la espera de mejores reglas, parece seguro privar a AI de su derecho al anonimato. Si est\u00e1s conversando con una IA, siempre debes saberlo. De lo contrario, las IA no s\u00f3lo nos mentir\u00e1n, sino que, antes de que nos demos cuenta, nos extorsionar\u00e1n con esquemas piramidales cre\u00edbles y esquemas de phishing en beneficio de sus jefes criminales o de ellos mismos. Y no podemos despojar a las IA de su anonimato hasta que les demos personalidad jur\u00eddica para que podamos responsabilizarlas y castigarlas por violar las reglas. Va a ser un futuro interesante.\n <\/p>\n