Manténgase informado con actualizaciones gratuitas
Simplemente regístrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja de entrada.
Las mentiras no son el mayor enemigo de la verdad, según el filósofo Harry Frankfurt. La mierda es peor.
Como explicó en Su ensayo clásico En la mierda (1986), un mentiroso y un cajero de la verdad están jugando el mismo juego, solo en lados opuestos. Cada uno responde a los hechos tal como los entienden y acepta o rechaza la autoridad de la verdad. Pero una tontería ignora estas demandas por completo. “No rechaza la autoridad de la verdad, como lo hace el mentiroso, y se opone a sí mismo. Tal persona quiere convencer a otros, independientemente de los hechos.
Lamentablemente, Frankfurt murió en 2023, solo unos meses después de que Chatgpt fue lanzado. Pero leer su ensayo en la era de la inteligencia artificial generativa provoca una familiaridad mareada. En varios aspectos, el ensayo de Frankfurt describe claramente la salida de modelos de lenguaje grande habilitados para AI. No les preocupa la verdad porque no tienen concepción de ella. Operan mediante correlación estadística, no observación empírica.
“Su mayor fortaleza, pero también su mayor peligro, es su capacidad para parecer autorizado sobre casi cualquier tema, independientemente de la precisión fáctica. En otras palabras, su superpotencia es su capacidad sobrehumana de mierda”. Carl Bergstrom y Jevin West han escrito. Los dos profesores de la Universidad de Washington dirigen un curso en línea – ¿Oráculos modernos o máquinas de mierda? – Examinando estos modelos. Otros han cambiado el nombre de la salida de las máquinas como botshit.
Una de las características más conocidas e inquietantes, pero a veces interesantemente creativas, de LLMS es su “alucinación” de hechos, o simplemente inventar cosas. Algunos investigadores argumentan que esta es una característica inherente de los modelos probabilísticos, no un error que se pueda solucionar. Pero las compañías de IA están tratando de resolver este problema mejorando la calidad de los datos, afinando sus modelos y construyendo en los sistemas de verificación y verificación de hechos.
Sin embargo, parecen tener algún camino por recorrer, considerando Un abogado de Anthrope le dijo a un tribunal californiano este mes que su bufete de abogados había presentado involuntariamente una cita incorrecta alucinada por el Claude de la compañía de IA. A medida que el chatbot de Google marca a los usuarios: “Géminis puede cometer errores, incluso sobre las personas, así que verifiquelo”. Eso no detuvo a Google de esta semana lanzando un “modo de IA” a todos sus servicios principales en los EE. UU.
Las formas en que estas empresas intentan mejorar sus modelos, incluido el aprendizaje de refuerzo de la retroalimentación humana, en sí mismo corre el riesgo de introducir sesgos, distorsión y juicios de valor no declarado. Como ha demostrado el FT, los chatbots de IA de OpenAi, Anthrope, Google, Meta, Xai y Deepseek describen las cualidades de los directores ejecutivos de sus propias empresas y las de sus rivales de manera muy diferente. El Grok de Elon Musk también ha promovido memes sobre “genocidio blanco” en Sudáfrica en respuesta a indicaciones totalmente no relacionadas. Xai dijo que había arreglado la falla, que culpó a una “modificación no autorizada”.
Dichos modelos crean una nueva categoría de daño potencial, o “discurso descuidado”, según Sandra Wachter, Brent Mittelstadt y Chris Russell, En un artículo del Instituto de Internet de Oxford. En su opinión, el habla descuidada puede causar daños intangibles, a largo plazo y acumulativos. Es como “mierda invisible” que hace que la sociedad sea más tonta, me dice Wachter.
Al menos con un político o vendedor, normalmente podemos entender su motivación. Pero los chatbots no tienen intencionalidad y están optimizados para la plausibilidad y el compromiso, no la veracidad. Inventarán hechos sin ningún propósito. Pueden contaminar la base de conocimiento de la humanidad de maneras insondables.
La pregunta intrigante es si los modelos de IA podrían estar diseñados para una mayor veracidad. ¿Habrá una demanda del mercado para ellos? ¿O deberían los desarrolladores del modelo ser obligado a cumplir con los estándares de verdad más altos, como se aplican a los anunciantes, abogados y médicos, por ejemplo? Wachter sugiere que el desarrollo de modelos más veraces tomaría tiempo, dinero y recursos que las iteraciones actuales están diseñadas para ahorrar. “Es como querer que un automóvil sea un avión. Puedes empujar un auto de un acantilado, pero no va a desafiar la gravedad”, dice ella.
Dicho todo esto, los modelos de IA generativos aún pueden ser útiles y valiosos. Muchas carreras lucrativas y políticas se han construido en la mierda. Utilizado adecuadamente, la IA generativa se puede implementar para innumerables casos de uso comercial. Pero es delirante y peligroso confiar estos modelos con las máquinas de verdad.
About the Author
