{"id":671506,"date":"2023-03-14T15:49:27","date_gmt":"2023-03-14T15:49:27","guid":{"rendered":"https:\/\/teknomers.com\/es\/la-factura-salada-para-el-funcionamiento-de-las-ia-generativas\/"},"modified":"2023-03-14T15:49:28","modified_gmt":"2023-03-14T15:49:28","slug":"la-factura-salada-para-el-funcionamiento-de-las-ia-generativas","status":"publish","type":"post","link":"https:\/\/teknomers.com\/es\/la-factura-salada-para-el-funcionamiento-de-las-ia-generativas\/","title":{"rendered":"La factura salada para el funcionamiento de las IA generativas"},"content":{"rendered":"<p> <br \/>\n<\/p>\n<div>\n<p>El \u00e9xito de ChatGPT supondr\u00eda un serio rev\u00e9s para OpenAI, es extremadamente caro.  El proceso de &#8220;inferencia&#8221; de generar texto para un programa de aprendizaje autom\u00e1tico requiere una enorme potencia inform\u00e1tica, multiplicada por la cantidad de usuarios.  El uso de IA generativa por parte de un motor de b\u00fasqueda estar\u00eda lejos de ser un buen negocio&#8230; todav\u00eda.<\/p>\n<h2>Los costes invisibles de la IA<\/h2>\n<p>En enero, seg\u00fan el analista de Forrester Rowan Curran, el procesamiento de las solicitudes enviadas a ChatGPT podr\u00eda haber costado hasta 40 millones de d\u00f3lares. <a rel=\"nofollow noopener\" href=\"https:\/\/www.cnbc.com\/2023\/03\/13\/chatgpt-and-generative-ai-are-booming-but-at-a-very-expensive-price.html\" target=\"_blank\"><em>CNBC<\/em><\/a>, que transmiti\u00f3 la estimaci\u00f3n, informa que la startup Latitude, detr\u00e1s del juego de rol impulsado por IA AI Dungeon, tuvo que desembolsar, en su punto m\u00e1ximo, casi $ 200,000 por mes.  Su cofundador, Nick Walton inform\u00f3 a los medios estadounidenses \u201c <em>Bromeamos diciendo que ten\u00edamos empleados humanos y empleados de IA, y gastamos lo mismo por cada uno de ellos.<\/em> &#8220;.<\/p>\n<div class=\"alignfull-content\">\n\t\t\t\t\t\t<span class=\"purpley-grey\">En la misma categor\u00eda<\/span><\/p>\n<article class=\"grid-box anim col-12 post default post-read-also\">\n<div class=\"image\">\n\t\t\t\t\t<picture class=\"attachment-post-ligne size-post-ligne wp-post-image\" decoding=\"async\"><source type=\"image\/webp\" data-lazy-  data-lazy-\/><\/picture>\n<noscript><picture class=\"attachment-post-ligne size-post-ligne wp-post-image\" decoding=\"async\" loading=\"lazy\"><source type=\"image\/webp\"  \/><img width=\"1700\" height=\"900\" src=\"https:\/\/teknomers.com\/es\/wp-content\/uploads\/2023\/03\/\u00bfComo-las-empresas-chinas-de-inteligencia-artificial-eluden-las-sanciones.jpeg\" alt=\"modelo de GPU A100 refrigerado por l\u00edquido\" decoding=\"async\" loading=\"lazy\"  \/>\n<\/picture>\n<\/noscript>\t\t\t<\/div>\n<div class=\"content\">\n\t\t<span class=\"ligne-embed-title font1\">\u00bfC\u00f3mo las empresas chinas de inteligencia artificial eluden las sanciones econ\u00f3micas de Estados Unidos?<\/span>\n\t<\/div>\n<\/article><\/div>\n<p>Estas sumas se disparar\u00edan con la gran cantidad de usuarios de un motor de b\u00fasqueda.  En una entrevista con <a rel=\"nofollow noopener\" href=\"https:\/\/www.reuters.com\/technology\/tech-giants-ai-like-bing-bard-poses-billion-dollar-search-problem-2023-02-22\/\" target=\"_blank\">Reuters<\/a>, John Hennessy, presidente de Alphabet, estim\u00f3 que un modelo de lenguaje grande costar\u00eda 10 veces m\u00e1s que la investigaci\u00f3n de palabras clave.  Morgan Stanley estima que si una IA similar a ChatGPT procesara la mitad de las consultas de Google, con respuestas de 50 palabras, su gasto aumentar\u00eda en $ 6 mil millones para 2024.<\/p>\n<p>Como explica John Hennessy, &#8221; <em>Estos son los costos de inferencia que necesita reducir<\/em> &#8220;.  Este es el precio de la potencia inform\u00e1tica necesaria para ejecutar IA con varias decenas de miles de millones de par\u00e1metros, 175 mil millones para ChatGPT-3.  Esta potencia la ejecutan principalmente las GPU proporcionadas por Nvidia.  Son utilizados por el 95% de los sistemas de IA por su capacidad para realizar m\u00faltiples c\u00e1lculos simult\u00e1neamente.  El chip A100, el m\u00e1s extendido, cuesta 10.000 d\u00f3lares la unidad.<\/p>\n<p>Seg\u00fan un c\u00e1lculo de <em>CNBC<\/em>, seg\u00fan informaci\u00f3n revelada por Meta, el entrenamiento de su modelo LLaMa, a 65 mil millones de par\u00e1metros, requiri\u00f3 2.048 GPU, durante un mill\u00f3n de horas.  Al precio de AWS, arrendar dicha capacidad habr\u00eda costado m\u00e1s de 2,4 millones de d\u00f3lares.  Para OpenAI, la factura por entrenar su modelo podr\u00eda haber alcanzado los 4 millones de d\u00f3lares.<\/p>\n<h2>Un problema a resolver en los pr\u00f3ximos a\u00f1os<\/h2>\n<p>El precio para entrenar y operar un modelo, especialmente uno popular, puede plantear un problema de concentraci\u00f3n.  En un momento en que la econom\u00eda es preocupante, cuando los inversores esperan retornos de inversi\u00f3n m\u00e1s r\u00e1pidos de las empresas tecnol\u00f3gicas, solo las estructuras m\u00e1s grandes podr\u00e1n desarrollar modelos grandes, Meta, Google o Microsoft a trav\u00e9s de su soporte para OpenAI.<\/p>\n<p>Sin embargo, este costo podr\u00eda contraerse en los pr\u00f3ximos a\u00f1os.  La ley de Moore, seg\u00fan la cual el poder de los chips solo aumenta a un precio constante, es invocada, por ejemplo, en particular por Jensen Huang, el CEO de Nvidia.  Tambi\u00e9n es una v\u00eda para que las nuevas empresas actuales y futuras se especialicen en reducir los precios de inferencia.  Los empleados de OpenAI, por ejemplo, habr\u00edan logrado reducir los precios gracias a un c\u00f3digo que hace que los chips sean m\u00e1s eficientes.  Finalmente, muchas empresas simplemente deciden operar modelos m\u00e1s peque\u00f1os, m\u00e1s especializados y, por lo tanto, m\u00e1s econ\u00f3micos.<\/p>\n<\/p><\/div>\n<p><br \/>\n<br \/><a href=\"https:\/\/siecledigital.fr\/2023\/03\/14\/la-facture-salee-du-fonctionnement-des-ia-generatives\/\" rel=\"nofollow noopener\" target=\"_blank\">ttn-es-4<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>El \u00e9xito de ChatGPT supondr\u00eda un serio rev\u00e9s para OpenAI, es extremadamente caro. El proceso de &#8220;inferencia&#8221; de<\/p>\n","protected":false},"author":1,"featured_media":624825,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[2],"tags":[12191,16157,152465,246,18,66944],"class_list":["post-671506","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-general","tag-factura","tag-funcionamiento","tag-generativas","tag-las","tag-para","tag-salada"],"_links":{"self":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/671506","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/comments?post=671506"}],"version-history":[{"count":0,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/posts\/671506\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media\/624825"}],"wp:attachment":[{"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/media?parent=671506"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/categories?post=671506"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/teknomers.com\/es\/wp-json\/wp\/v2\/tags?post=671506"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}