{"id":1300289,"date":"2024-08-01T12:28:22","date_gmt":"2024-08-01T12:28:22","guid":{"rendered":"https:\/\/teknomers.com\/es\/que-puede-aprender-la-ia-generativa-del-pantano-primordial\/"},"modified":"2024-08-01T12:28:27","modified_gmt":"2024-08-01T12:28:27","slug":"que-puede-aprender-la-ia-generativa-del-pantano-primordial","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/que-puede-aprender-la-ia-generativa-del-pantano-primordial\/","title":{"rendered":"\u00bfQu\u00e9 puede aprender la IA generativa del pantano primordial?"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>Mant\u00e9ngase informado con actualizaciones gratuitas<\/p>\n<p class=\"article__content-sign-up-topic-description\"><span>Simplemente reg\u00edstrese en el <!-- -->Inteligencia artificial<!-- --> myFT Digest \u2013 entregado directamente en su bandeja de entrada.<\/span><\/p>\n<p><iframe class=\"article__content-sign-up-iframe close\" scrolling=\"no\" id=\"signUpIframe\" data-prev-url=\"\/register\/in-article-sign-up?ft-content-uuid=e0c0f3df-1251-4474-afff-7f38a700af3f&amp;concept-id=d2e5aa89-e168-416d-b41b-af8e847fb3cd\"><\/iframe><\/div>\n<div id=\"article-body\">\n<p>En primer lugar, aprendemos que los modelos de IA generativos pueden \u201calucinar\u201d, una forma elegante de decir que los grandes modelos de lenguaje inventan cosas. Como me inform\u00f3 el propio ChatGPT (en este caso de manera fiable), los LLM pueden generar eventos hist\u00f3ricos falsos, personas inexistentes, teor\u00edas cient\u00edficas falsas y libros y art\u00edculos imaginarios. Ahora, los investigadores nos dicen que algunos LLM podr\u00edan colapsar bajo el peso de sus propias imperfecciones. \u00bfEs esta realmente la tecnolog\u00eda maravillosa de nuestra era en la que se han gastado cientos de miles de millones de d\u00f3lares? <\/p>\n<p>en un <a rel=\"nofollow noopener\" href=\"https:\/\/www.nature.com\/articles\/s41586-024-07566-y\" data-trackable=\"link\" target=\"_blank\">art\u00edculo publicado en Nature<\/a> La semana pasada, un equipo de investigadores explor\u00f3 los peligros de la \u201ccontaminaci\u00f3n de datos\u201d en el entrenamiento de sistemas de IA y los riesgos de colapso del modelo. Habiendo ya ingerido la mayor\u00eda de los billones de palabras generadas por humanos en Internet, los \u00faltimos modelos de IA generativos dependen cada vez m\u00e1s de datos sint\u00e9ticos creados por los propios modelos de IA. Sin embargo, estos datos generados por bots pueden comprometer la integridad de los conjuntos de entrenamiento debido a la p\u00e9rdida de varianza y la replicaci\u00f3n de errores. \u201cEncontramos que el uso indiscriminado de contenido generado por modelos en el entrenamiento causa defectos irreversibles en los modelos resultantes\u201d, concluyeron los autores.<\/p>\n<p>Al igual que la m\u00edtica serpiente antigua Ouroboros, al parecer, estos modelos se est\u00e1n comiendo su propia cola. <\/p>\n<p>Ilia Shumailov, autor principal del art\u00edculo mientras era investigador en la Universidad de Oxford, me dice que la principal conclusi\u00f3n de la investigaci\u00f3n es que es probable que el ritmo de desarrollo de la IA generativa se desacelere a medida que los datos de alta calidad se vuelvan m\u00e1s escasos. \u201cLa premisa principal del art\u00edculo es que los sistemas que estamos construyendo actualmente se degradar\u00e1n\u201d, afirma.<\/p>\n<p><a rel=\"nofollow noopener\" href=\"https:\/\/epochai.org\/blog\/will-we-run-out-of-data-limits-of-llm-scaling-based-on-human-generated-data\" data-trackable=\"link\" target=\"_blank\">La empresa de investigaci\u00f3n Epoch AI estima<\/a> que actualmente hay 300 billones de tokens (peque\u00f1as unidades de datos) de texto p\u00fablico generado por humanos lo suficientemente buenos como para ser utilizados con fines de entrenamiento. Seg\u00fan sus previsiones, ese stock de datos podr\u00eda agotarse en 2028. Entonces, no habr\u00e1 suficientes datos generados por humanos de alta calidad para alimentar el sistema y una dependencia excesiva de los datos sint\u00e9ticos puede volverse problem\u00e1tica, como sugiere el art\u00edculo de Nature.<\/p>\n<p>Eso no significa que los modelos actuales, entrenados principalmente con datos generados por humanos, se vuelvan in\u00fatiles. A pesar de sus h\u00e1bitos alucin\u00f3genos, todav\u00eda se pueden aplicar a una infinidad de usos. De hecho, los investigadores dicen que puede haber una ventaja para los primeros modelos de aprendizaje autom\u00e1tico entrenados con datos no contaminados que ahora no est\u00e1n disponibles para los modelos de pr\u00f3xima generaci\u00f3n. La l\u00f3gica sugiere que esto tambi\u00e9n aumentar\u00e1 el valor de los datos nuevos, privados y generados por humanos: los editores deben tomar nota.<\/p>\n<p>Los peligros te\u00f3ricos del colapso de los modelos se han debatido durante a\u00f1os y los investigadores siguen argumentando que el uso selectivo de datos sint\u00e9ticos puede resultar inestimable. Aun as\u00ed, est\u00e1 claro que los investigadores de IA tendr\u00e1n que dedicar mucho m\u00e1s tiempo y dinero a depurar sus datos. Una empresa que est\u00e1 explorando las mejores formas de hacerlo es Hugging Face, la plataforma de aprendizaje autom\u00e1tico colaborativo que utiliza la comunidad de investigaci\u00f3n. <\/p>\n<p>Hugging Face ha estado creando conjuntos de entrenamiento altamente seleccionados que incluyen datos sint\u00e9ticos. Tambi\u00e9n se ha centrado en peque\u00f1os modelos de lenguaje en dominios espec\u00edficos, como la medicina y la ciencia, que son m\u00e1s f\u00e1ciles de controlar. \u201cLa mayor\u00eda de los investigadores desprecian la limpieza de los datos. Pero hay que comer verduras. En alg\u00fan momento, todo el mundo tiene que dedicar su tiempo a ello\u201d, dice Anton Lozhkov, ingeniero de aprendizaje autom\u00e1tico de Hugging Face.<\/p>\n<p>Aunque las limitaciones de los modelos de IA generativa son cada vez m\u00e1s evidentes, es poco probable que hagan descarrilar la revoluci\u00f3n de la IA. De hecho, es posible que ahora se preste renovada atenci\u00f3n a campos de investigaci\u00f3n de IA adyacentes, que han sido relativamente desatendidos \u00faltimamente pero que pueden conducir a nuevos avances. Algunos investigadores de IA generativa est\u00e1n particularmente intrigados por el progreso logrado en la IA corporizada, como en los robots y los veh\u00edculos aut\u00f3nomos.<\/p>\n<p>Cuando entrevist\u00e9 a la cient\u00edfica cognitiva Alison Gopnik a principios de este a\u00f1o, ella sugiri\u00f3 que eran los expertos en rob\u00f3tica quienes realmente estaban construyendo la IA fundamental: sus sistemas no estaban cautivos en Internet, sino que se aventuraban en el mundo real, extrayendo informaci\u00f3n de sus interacciones y adaptando sus respuestas como resultado.<\/p>\n<p>\u201cEsa es la ruta que deber\u00edas seguir si realmente quisieras dise\u00f1ar algo que fuera genuinamente inteligente\u201d, sugiri\u00f3.<\/p>\n<p>Despu\u00e9s de todo, como se\u00f1al\u00f3 Gopnik, as\u00ed fue exactamente como surgi\u00f3 originalmente la inteligencia biol\u00f3gica del pantano primigenio. Nuestros \u00faltimos modelos de IA generativa pueden cautivarnos con sus capacidades, pero a\u00fan tienen mucho que aprender de ellos. <a rel=\"nofollow noopener\" href=\"https:\/\/us.macmillan.com\/books\/9780374207946\/metazoa\" data-trackable=\"link\" target=\"_blank\">La evoluci\u00f3n de los gusanos y esponjas m\u00e1s primitivos<\/a> Hace m\u00e1s de 500 millones de a\u00f1os.<\/p>\n<p><em>john.thornhill@ft.com<\/em><\/p>\n<\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/www.ft.com\/content\/e0c0f3df-1251-4474-afff-7f38a700af3f\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-56<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>Mant\u00e9ngase informado con actualizaciones gratuitas Simplemente reg\u00edstrese en el Inteligencia artificial myFT Digest \u2013 entregado directamente en su<\/p>\n","protected":false},"author":1,"featured_media":1300290,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[5358,38,131660,51559,39276,149,387],"class_list":["post-1300289","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-aprender","tag-del","tag-generativa","tag-pantano","tag-primordial","tag-puede","tag-que"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1300289","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=1300289"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/1300289\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/1300290"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=1300289"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=1300289"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=1300289"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}