Sin preocuparse por la verdad, ¿puede LLM ser útil?

Los grandes modelos de lenguaje (LLM) y otras formas generativas de IA pueden alcanzar niveles de rendimiento notablemente cercanos a los de los seres humanos para tareas basadas en textos o imágenes. Pasan, de hecho, la prueba de Turing, en la que una conversación de mensajería instantánea hace posible juzgar la inteligencia del interlocutor. En sus peores días, los LLM producen resultados que se parecen a los de un humano. Cuando funcionan bien, serían casi superhombres. Un buen número de empresas buscan determinar qué tareas se adaptarían más a la IA y cómo integrar la IA generativa en los flujos de trabajo en cuestión.

Según el texto de Hicks, Humphries y Slater, Chatgpt es una mierdalos LLM presentan exactamente las mismas características que los expertos en “baratina”. El filósofo Harry Frankfurt define este término en su libro El arte de decir mierda Lo que consiste en hacer declaraciones destinadas a convencer, sin preocuparse por su veracidad. Por lo tanto, un baratineur dirá lo que considera necesario para lograr su objetivo, sin importar lo que sea verdadero o falso. De hecho, probablemente ni siquiera le importa si lo que dice es intrínsecamente coherente. El LLM a veces tiene lo que se llama “alucinaciones”, en cuyo caso lo que avanzan es simplemente falso.

Para algunos seguidores de IA, las mejoras futuras reducirán o eliminarán este problema, pero realmente no entienden el modo operativo de LLM y pueden asesorar a los usuarios sobre posibles aplicaciones. A pesar del sorprendente éxito de LLM, es esencial saber que su funcionamiento se basa en estadísticas y no en la verdad absoluta.

Improvisación permanente

La mayoría de las veces, las “estadísticas ficticias” de la LLM parecen correctas (o se presentan como hechos), simplemente porque coinciden con la realidad como lo entiende el mundo contemporáneo. Pero no debe olvidarse que los usuarios de estas herramientas pueden cuestionar los comentarios avanzados, mientras que LLM no son aptos. De hecho, los hombres pueden pensar y comparar la producción de LLM con un modelo de verdad general, cuando las afirmaciones coinciden, entonces todo está bien. Por otro lado, si no, pueden dejar perplejos y luego se llaman “alucinaciones”. Sin embargo, el LLM no ve ninguna diferencia. El transformador subyacente no hace distinción entre alucinación o realidad. Es en parte por esta razón que es difícil eliminar las alucinaciones y que todo sugiere que es imposible eliminarlas.

Obviamente, los LLM no son una panacea, pero tampoco son inútiles. Finalmente, su utilidad es bastante extraña y no muy familiar, por eso es necesario Wonder & NBSP: ¿qué tareas podrían confiar a tal Baratineur & NBSP?

En teoría, parece bastante simple, pero en la práctica, es más difícil. Aunque ciertos oficios requieren una cierta dosis de “baratina”, esta es una de las primeras veces que los usuarios lo conciben como esencial y tienen una ventaja potencial. Considerar una entidad artificial que, parte del tiempo pero sin conocer las proporciones, inventará, es un enfoque completamente sin precedentes. Por lo tanto, no se alienta un LLM para tareas estratégicas, donde los errores y los malentendidos pueden tener graves consecuencias.

LLM y ciberseguridad

La utilidad de LLM en el campo de la ciberseguridad ha provocado que fluya mucha tinta. En general, a los extraños les gusta la idea de que las nuevas herramientas de IA funcionan detrás de escena, en interacciones no humanas. También es obvio que este sector está actualmente bajo el centro de atención, con un reconocimiento general de la urgencia de los desafíos a enfrentar. Pero, ¿es útil integrar un Baratuser en el equipo y NBSP?

Por un lado, el uso de LLM se limita a situaciones en las que el texto generado es, en realidad, solo una presentación de información cuya fiabilidad ya ha sido verificada. Sin embargo, en comparación con las capacidades de LLM, este enfoque puede parecer decepcionante. Sin embargo, un conservadurismo tiene la ventaja significativa de que el nivel de “baratina” del que es capaz de un LLM no evitará que nadie duerma. Además, LLM y AI son dos cosas diferentes, y estas últimas pueden muy bien sin los modelos de lenguaje para funcionar y ayudar a los equipos a cargo de la ciberseguridad en sus tareas.

Instrumentos de ataque e defensa

En el primer escenario, la primera pregunta es preguntarse si es posible que los expertos en grandes calibre y compañías de ataque extremadamente talentadas. Este riesgo parece considerable, por ejemplo, en el caso de la ingeniería social, en el que algo plausible pero también falso puede ser explotado efectivamente para un ataque. Del mismo modo, los LLM podrían ser muy efectivos en datos corruptos, introducir incertidumbre e interferir con los procesos comerciales. Es probable que los datos generados por LLM sean creíbles para que no se detecten necesariamente durante los controles simples, y sin ser necesariamente útil o consistente.

Paralelamente, la presencia de baratiners experimentados en el equipo podría hacer posible tener nuevas defensas. En otras palabras, ¿los LLM del equipo de defensa contrarrestan efectivamente los sistemas LLM desplegados por los atacantes y NBSP? La respuesta parece ser no. En general, los LLM pueden generar “baratina”, pero no detectarla; de lo contrario estas salidas. Por lo tanto, el uso de LLM Baratineurs como defensa significa una variante de señuelos (“Honeypots”). Los equipos podrían crear dinámicamente datos aparentemente plausibles o versiones de procesos, pero en realidad errónea de varias maneras diferentes, al establecer un tipo de marca de agua. Sin embargo, todo lo que es lo suficientemente efectivo como para engañar a un atacante también arriesga, aunque involadamente, sembrar confusión dentro de la empresa.

LLM como objetivos

¿Un LLM representa una nueva falla de seguridad y NBSP? Esta es la única área en la que parece haber buenas noticias. De hecho, si un LLM se integra en un proceso de negocio al mantener en cuenta la posibilidad de “baratina”, no es seguro que un atacante que corrompe este LLM causaría daños adicionales. Si los sistemas y procesos se han diseñado para integrar los baratineurs, es muy probable que también sean lo suficientemente robustos como para combatir los posibles ataques lanzados contra el LLM propiamente dicho.

En lo mejor de LLM Worlds, ambos deben preguntarse cómo aprovechar al máximo esta capacidad y preocuparse por sus implicaciones para la seguridad. Hasta ahora, los funcionarios generalmente no han tenido que cuestionar “sobre las posiciones que podrían confiarse a un excelente Barater”. Pero esta pregunta, u otra del mismo orden, parece es esencial saber cómo explotar mejor los modelos de idiomas principales.