{"id":1580064,"date":"2025-02-14T13:34:33","date_gmt":"2025-02-14T13:34:33","guid":{"rendered":"https:\/\/teknomers.com\/es\/sin-preocuparse-por-la-verdad-puede-llm-ser-util\/"},"modified":"2025-02-14T13:34:38","modified_gmt":"2025-02-14T13:34:38","slug":"sin-preocuparse-por-la-verdad-puede-llm-ser-util","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/sin-preocuparse-por-la-verdad-puede-llm-ser-util\/","title":{"rendered":"Sin preocuparse por la verdad, \u00bfpuede LLM ser \u00fatil?"},"content":{"rendered":"


\n<\/p>\n

\n

Los grandes modelos de lenguaje (LLM) y otras formas generativas de IA pueden alcanzar niveles de rendimiento notablemente cercanos a los de los seres humanos para tareas basadas en textos o im\u00e1genes. Pasan, de hecho, la prueba de Turing, en la que una conversaci\u00f3n de mensajer\u00eda instant\u00e1nea hace posible juzgar la inteligencia del interlocutor. En sus peores d\u00edas, los LLM producen resultados que se parecen a los de un humano. Cuando funcionan bien, ser\u00edan casi superhombres. Un buen n\u00famero de empresas buscan determinar qu\u00e9 tareas se adaptar\u00edan m\u00e1s a la IA y c\u00f3mo integrar la IA generativa en los flujos de trabajo en cuesti\u00f3n.<\/strong><\/p>\n

Seg\u00fan el texto de Hicks, Humphries y Slater, Chatgpt es una mierda<\/em><\/a>los LLM presentan exactamente las mismas caracter\u00edsticas que los expertos en “baratina”. El fil\u00f3sofo Harry Frankfurt define este t\u00e9rmino en su libro El arte de decir mierda<\/em> Lo que consiste en hacer declaraciones destinadas a convencer, sin preocuparse por su veracidad. Por lo tanto, un baratineur dir\u00e1 lo que considera necesario para lograr su objetivo, sin importar lo que sea verdadero o falso. De hecho, probablemente ni siquiera le importa si lo que dice es intr\u00ednsecamente coherente. El LLM a veces tiene lo que se llama “alucinaciones”, en cuyo caso lo que avanzan es simplemente falso.<\/p>\n

Para algunos seguidores de IA, las mejoras futuras reducir\u00e1n o eliminar\u00e1n este problema, pero realmente no entienden el modo operativo de LLM y pueden asesorar a los usuarios sobre posibles aplicaciones. A pesar del sorprendente \u00e9xito de LLM, es esencial saber que su funcionamiento se basa en estad\u00edsticas y no en la verdad absoluta.<\/p>\n

Improvisaci\u00f3n permanente <\/strong><\/h2>\n

La mayor\u00eda de las veces, las “estad\u00edsticas ficticias” de la LLM parecen correctas (o se presentan como hechos), simplemente porque coinciden con la realidad como lo entiende el mundo contempor\u00e1neo. Pero no debe olvidarse que los usuarios de estas herramientas pueden cuestionar los comentarios avanzados, mientras que LLM no son aptos. De hecho, los hombres pueden pensar y comparar la producci\u00f3n de LLM con un modelo de verdad general, cuando las afirmaciones coinciden, entonces todo est\u00e1 bien. Por otro lado, si no, pueden dejar perplejos y luego se llaman “alucinaciones”. Sin embargo, el LLM no ve ninguna diferencia. El transformador subyacente no hace distinci\u00f3n entre alucinaci\u00f3n o realidad. Es en parte por esta raz\u00f3n que es dif\u00edcil eliminar las alucinaciones y que todo sugiere que es imposible eliminarlas.<\/p>\n

Obviamente, los LLM no son una panacea, pero tampoco son in\u00fatiles. Finalmente, su utilidad es bastante extra\u00f1a y no muy familiar, por eso es necesario Wonder & NBSP: \u00bfqu\u00e9 tareas podr\u00edan confiar a tal Baratineur & NBSP?<\/p>\n

En teor\u00eda, parece bastante simple, pero en la pr\u00e1ctica, es m\u00e1s dif\u00edcil. Aunque ciertos oficios requieren una cierta dosis de “baratina”, esta es una de las primeras veces que los usuarios lo conciben como esencial y tienen una ventaja potencial. Considerar una entidad artificial que, parte del tiempo pero sin conocer las proporciones, inventar\u00e1, es un enfoque completamente sin precedentes. Por lo tanto, no se alienta un LLM para tareas estrat\u00e9gicas, donde los errores y los malentendidos pueden tener graves consecuencias.<\/p>\n

LLM y ciberseguridad<\/strong><\/h2>\n

La utilidad de LLM en el campo de la ciberseguridad ha provocado que fluya mucha tinta. En general, a los extra\u00f1os les gusta la idea de que las nuevas herramientas de IA funcionan detr\u00e1s de escena, en interacciones no humanas. Tambi\u00e9n es obvio que este sector est\u00e1 actualmente bajo el centro de atenci\u00f3n, con un reconocimiento general de la urgencia de los desaf\u00edos a enfrentar. Pero, \u00bfes \u00fatil integrar un Baratuser en el equipo y NBSP?<\/p>\n

Por un lado, el uso de LLM se limita a situaciones en las que el texto generado es, en realidad, solo una presentaci\u00f3n de informaci\u00f3n cuya fiabilidad ya ha sido verificada. Sin embargo, en comparaci\u00f3n con las capacidades de LLM, este enfoque puede parecer decepcionante. Sin embargo, un conservadurismo tiene la ventaja significativa de que el nivel de “baratina” del que es capaz de un LLM no evitar\u00e1 que nadie duerma. Adem\u00e1s, LLM y AI son dos cosas diferentes, y estas \u00faltimas pueden muy bien sin los modelos de lenguaje para funcionar y ayudar a los equipos a cargo de la ciberseguridad en sus tareas.<\/p>\n

Instrumentos de ataque e defensa<\/strong><\/h2>\n

En el primer escenario, la primera pregunta es preguntarse si es posible que los expertos en grandes calibre y compa\u00f1\u00edas de ataque extremadamente talentadas. Este riesgo parece considerable, por ejemplo, en el caso de la ingenier\u00eda social, en el que algo plausible pero tambi\u00e9n falso puede ser explotado efectivamente para un ataque. Del mismo modo, los LLM podr\u00edan ser muy efectivos en datos corruptos, introducir incertidumbre e interferir con los procesos comerciales. Es probable que los datos generados por LLM sean cre\u00edbles para que no se detecten necesariamente durante los controles simples, y sin ser necesariamente \u00fatil o consistente.<\/p>\n

Paralelamente, la presencia de baratiners experimentados en el equipo podr\u00eda hacer posible tener nuevas defensas. En otras palabras, \u00bflos LLM del equipo de defensa contrarrestan efectivamente los sistemas LLM desplegados por los atacantes y NBSP? La respuesta parece ser no. En general, los LLM pueden generar “baratina”, pero no detectarla; de lo contrario estas salidas. Por lo tanto, el uso de LLM Baratineurs como defensa significa una variante de se\u00f1uelos (“Honeypots”). Los equipos podr\u00edan crear din\u00e1micamente datos aparentemente plausibles o versiones de procesos, pero en realidad err\u00f3nea de varias maneras diferentes, al establecer un tipo de marca de agua. Sin embargo, todo lo que es lo suficientemente efectivo como para enga\u00f1ar a un atacante tambi\u00e9n arriesga, aunque involadamente, sembrar confusi\u00f3n dentro de la empresa.<\/p>\n

LLM como objetivos<\/strong><\/h2>\n

\u00bfUn LLM representa una nueva falla de seguridad y NBSP? Esta es la \u00fanica \u00e1rea en la que parece haber buenas noticias. De hecho, si un LLM se integra en un proceso de negocio al mantener en cuenta la posibilidad de “baratina”, no es seguro que un atacante que corrompe este LLM causar\u00eda da\u00f1os adicionales. Si los sistemas y procesos se han dise\u00f1ado para integrar los baratineurs, es muy probable que tambi\u00e9n sean lo suficientemente robustos como para combatir los posibles ataques lanzados contra el LLM propiamente dicho.<\/p>\n

En lo mejor de LLM Worlds, ambos deben preguntarse c\u00f3mo aprovechar al m\u00e1ximo esta capacidad y preocuparse por sus implicaciones para la seguridad. Hasta ahora, los funcionarios generalmente no han tenido que cuestionar “sobre las posiciones que podr\u00edan confiarse a un excelente Barater”. Pero esta pregunta, u otra del mismo orden, parece es esencial saber c\u00f3mo explotar mejor los modelos de idiomas principales.<\/p>\n<\/div>\n


\n
ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Los grandes modelos de lenguaje (LLM) y otras formas generativas de IA pueden alcanzar niveles de rendimiento notablemente<\/p>\n","protected":false},"author":1,"featured_media":1457492,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[19001,209222,231,16708,149,1067,1030,5693,6198],"class_list":["post-1580064","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-iowa","tag-llm","tag-por","tag-preocuparse","tag-puede","tag-ser","tag-sin","tag-util","tag-verdad"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1580064","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1580064"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1580064\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1457492"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1580064"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1580064"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1580064"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}