{"id":1731272,"date":"2025-05-23T07:11:16","date_gmt":"2025-05-23T07:11:16","guid":{"rendered":"https:\/\/teknomers.com\/es\/los-modelos-de-ia-generativos-son-expertos-en-el-arte-de-la-mierda\/"},"modified":"2025-05-23T07:11:22","modified_gmt":"2025-05-23T07:11:22","slug":"los-modelos-de-ia-generativos-son-expertos-en-el-arte-de-la-mierda","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/los-modelos-de-ia-generativos-son-expertos-en-el-arte-de-la-mierda\/","title":{"rendered":"Los modelos de IA generativos son expertos en el arte de la mierda"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description o3-type-body-base\"><span>Simplemente reg\u00edstrese en el <!-- -->Inteligencia artificial<!-- --> Myft Digest: entregado directamente a su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=55c08fc8-2f0b-4233-b1c6-c1e19d99990f&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>Las mentiras no son el mayor enemigo de la verdad, seg\u00fan el fil\u00f3sofo Harry Frankfurt. La mierda es peor. <\/p>\n<p>Como explic\u00f3 en <a rel=\"nofollow noopener\" href=\"https:\/\/www.math.mcgill.ca\/rags\/JAC\/124\/bs.html\" data-trackable=\"link\" target=\"_blank\">Su ensayo cl\u00e1sico <em>En la mierda<\/em><\/a>  (1986), un mentiroso y un cajero de la verdad est\u00e1n jugando el mismo juego, solo en lados opuestos. Cada uno responde a los hechos tal como los entienden y acepta o rechaza la autoridad de la verdad. Pero una tonter\u00eda ignora estas demandas por completo. &#8220;No rechaza la autoridad de la verdad, como lo hace el mentiroso, y se opone a s\u00ed mismo. Tal persona quiere convencer a otros, independientemente de los hechos.<\/p>\n<p>Lamentablemente, Frankfurt muri\u00f3 en 2023, solo unos meses despu\u00e9s de que Chatgpt fue lanzado. Pero leer su ensayo en la era de la inteligencia artificial generativa provoca una familiaridad mareada. En varios aspectos, el ensayo de Frankfurt describe claramente la salida de modelos de lenguaje grande habilitados para AI. No les preocupa la verdad porque no tienen concepci\u00f3n de ella. Operan mediante correlaci\u00f3n estad\u00edstica, no observaci\u00f3n emp\u00edrica.<\/p>\n<p>&#8220;Su mayor fortaleza, pero tambi\u00e9n su mayor peligro, es su capacidad para parecer autorizado sobre casi cualquier tema, independientemente de la precisi\u00f3n f\u00e1ctica. En otras palabras, su superpotencia es su capacidad sobrehumana de mierda&#8221;. <a rel=\"nofollow noopener\" href=\"https:\/\/thebullshitmachines.com\/about-us\/index.html\" data-trackable=\"link\" target=\"_blank\">Carl Bergstrom y Jevin West han escrito<\/a>. Los dos profesores de la Universidad de Washington dirigen un curso en l\u00ednea &#8211; <a rel=\"nofollow noopener\" href=\"https:\/\/thebullshitmachines.com\/about-us\/index.html\" data-trackable=\"link\" target=\"_blank\">\u00bfOr\u00e1culos modernos o m\u00e1quinas de mierda?<\/a> &#8211; Examinando estos modelos. Otros han cambiado el nombre de la salida de las m\u00e1quinas como <a rel=\"nofollow noopener\" href=\"https:\/\/www.sciencedirect.com\/science\/article\/abs\/pii\/S0007681324000272?via%3Dihub\" data-trackable=\"link\" target=\"_blank\">botshit<\/a>.<\/p>\n<p>Una de las caracter\u00edsticas m\u00e1s conocidas e inquietantes, pero a veces interesantemente creativas, de LLMS es su &#8220;alucinaci\u00f3n&#8221; de hechos, o simplemente inventar cosas. Algunos investigadores argumentan que esta es una caracter\u00edstica inherente de los modelos probabil\u00edsticos, no un error que se pueda solucionar. Pero las compa\u00f1\u00edas de IA est\u00e1n tratando de resolver este problema mejorando la calidad de los datos, afinando sus modelos y construyendo en los sistemas de verificaci\u00f3n y verificaci\u00f3n de hechos. <\/p>\n<p>Sin embargo, parecen tener alg\u00fan camino por recorrer, considerando <a rel=\"nofollow noopener\" href=\"https:\/\/www.reuters.com\/legal\/legalindustry\/anthropics-lawyers-take-blame-ai-hallucination-music-publishers-lawsuit-2025-05-15\/\" data-trackable=\"link\" target=\"_blank\">Un abogado de Anthrope le dijo a un tribunal californiano este mes<\/a> que su bufete de abogados hab\u00eda presentado involuntariamente una cita incorrecta alucinada por el Claude de la compa\u00f1\u00eda de IA. A medida que el chatbot de Google marca a los usuarios: &#8220;G\u00e9minis puede cometer errores, incluso sobre las personas, as\u00ed que verifiquelo&#8221;. Eso no detuvo a Google de esta semana lanzando un &#8220;modo de IA&#8221; a todos sus servicios principales en los EE. UU. <\/p>\n<p>Las formas en que estas empresas intentan mejorar sus modelos, incluido el aprendizaje de refuerzo de la retroalimentaci\u00f3n humana, en s\u00ed mismo corre el riesgo de introducir sesgos, distorsi\u00f3n y juicios de valor no declarado. Como ha demostrado el FT, los chatbots de IA de OpenAi, Anthrope, Google, Meta, Xai y Deepseek describen las cualidades de los directores ejecutivos de sus propias empresas y las de sus rivales de manera muy diferente. El Grok de Elon Musk tambi\u00e9n ha promovido memes sobre &#8220;genocidio blanco&#8221; en Sud\u00e1frica en respuesta a indicaciones totalmente no relacionadas. Xai dijo que hab\u00eda arreglado la falla, que culp\u00f3 a una &#8220;modificaci\u00f3n no autorizada&#8221;.<\/p>\n<p>Dichos modelos crean una nueva categor\u00eda de da\u00f1o potencial, o &#8220;discurso descuidado&#8221;, seg\u00fan Sandra Wachter, Brent Mittelstadt y Chris Russell, <a rel=\"nofollow noopener\" href=\"https:\/\/royalsocietypublishing.org\/doi\/10.1098\/rsos.240197#d1e2695\" data-trackable=\"link\" target=\"_blank\">En un art\u00edculo del Instituto de Internet de Oxford<\/a>. En su opini\u00f3n, el habla descuidada puede causar da\u00f1os intangibles, a largo plazo y acumulativos. Es como &#8220;mierda invisible&#8221; que hace que la sociedad sea m\u00e1s tonta, me dice Wachter.<\/p>\n<p>Al menos con un pol\u00edtico o vendedor, normalmente podemos entender su motivaci\u00f3n. Pero los chatbots no tienen intencionalidad y est\u00e1n optimizados para la plausibilidad y el compromiso, no la veracidad. Inventar\u00e1n hechos sin ning\u00fan prop\u00f3sito. Pueden contaminar la base de conocimiento de la humanidad de maneras insondables.<\/p>\n<p>La pregunta intrigante es si los modelos de IA podr\u00edan estar dise\u00f1ados para una mayor veracidad. \u00bfHabr\u00e1 una demanda del mercado para ellos? \u00bfO deber\u00edan los desarrolladores del modelo ser obligado a cumplir con los est\u00e1ndares de verdad m\u00e1s altos, como se aplican a los anunciantes, abogados y m\u00e9dicos, por ejemplo? Wachter sugiere que el desarrollo de modelos m\u00e1s veraces tomar\u00eda tiempo, dinero y recursos que las iteraciones actuales est\u00e1n dise\u00f1adas para ahorrar. &#8220;Es como querer que un autom\u00f3vil sea un avi\u00f3n. Puedes empujar un auto de un acantilado, pero no va a desafiar la gravedad&#8221;, dice ella. <\/p>\n<p>Dicho todo esto, los modelos de IA generativos a\u00fan pueden ser \u00fatiles y valiosos. Muchas carreras lucrativas y pol\u00edticas se han construido en la mierda. Utilizado adecuadamente, la IA generativa se puede implementar para innumerables casos de uso comercial. Pero es delirante y peligroso confiar estos modelos con las m\u00e1quinas de verdad. <\/p>\n<p><em>John.thornhill@ft.com<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/55c08fc8-2f0b-4233-b1c6-c1e19d99990f\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrese en el Inteligencia artificial Myft Digest: entregado directamente a su bandeja<\/p>\n","protected":false},"author":1,"featured_media":1731273,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[5518,385,310416,36,3837,7906,1932],"class_list":["post-1731272","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-arte","tag-expertos","tag-generativos","tag-los","tag-mierda","tag-modelos","tag-son"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1731272","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1731272"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1731272\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1731273"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1731272"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1731272"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1731272"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}