\n<\/p>\n
Ha comenzado la carrera para llevar la tecnolog\u00eda detr\u00e1s de ChatGPT al tel\u00e9fono inteligente que lleva en el bolsillo. Y a juzgar por la sorprendente velocidad a la que avanza la tecnolog\u00eda, los \u00faltimos avances en inteligencia artificial podr\u00edan transformar las comunicaciones m\u00f3viles y la inform\u00e1tica mucho m\u00e1s r\u00e1pido de lo que parec\u00eda probable hace solo unos meses.<\/p>\n
A medida que las empresas de tecnolog\u00eda se apresuran a incorporar IA generativa en su software y servicios, enfrentan costos inform\u00e1ticos significativamente m\u00e1s altos. La preocupaci\u00f3n ha pesado en particular en Google, con los analistas de Wall Street advirtiendo que los m\u00e1rgenes de ganancia de la compa\u00f1\u00eda podr\u00edan reducirse si los usuarios de b\u00fasqueda en Internet esperan contenido generado por IA en los resultados de b\u00fasqueda est\u00e1ndar.<\/p>\n
Ejecutar IA generativa en tel\u00e9fonos m\u00f3viles, en lugar de a trav\u00e9s de la nube en servidores operados por grandes grupos tecnol\u00f3gicos, podr\u00eda responder una de las preguntas econ\u00f3micas m\u00e1s importantes planteadas por la \u00faltima moda tecnol\u00f3gica. <\/p>\n
Google dijo la semana pasada que hab\u00eda logrado ejecutar una versi\u00f3n de PaLM 2, su \u00faltimo modelo de lenguaje grande, en un tel\u00e9fono Samsung Galaxy. Aunque no demostr\u00f3 p\u00fablicamente el modelo reducido, llamado Gecko, el movimiento es la \u00faltima se\u00f1al de que una forma de IA que ha requerido recursos inform\u00e1ticos que solo se encuentran en un centro de datos est\u00e1 comenzando a llegar r\u00e1pidamente a muchos m\u00e1s lugares.<\/p>\n
El cambio podr\u00eda hacer que los servicios como los chatbots sean mucho m\u00e1s baratos para las empresas y allanar el camino para aplicaciones m\u00e1s transformadoras que utilicen IA generativa.<\/p>\n
\u201cNecesitas hacer que la IA sea h\u00edbrida: [running in both] el centro de datos y localmente; de \u200b\u200blo contrario, costar\u00e1 demasiado dinero\u201d, dijo al Financial Times Cristiano Amon, director ejecutivo de la empresa de chips m\u00f3viles Qualcomm. Aprovechar la potencia de procesamiento no utilizada en los tel\u00e9fonos m\u00f3viles fue la mejor manera de distribuir el costo, dijo.<\/p>\n
Cuando el lanzamiento de ChatGPT a fines del a\u00f1o pasado atrajo la atenci\u00f3n generalizada de la IA generativa, la perspectiva de llevarla a los tel\u00e9fonos parec\u00eda distante. Adem\u00e1s de entrenar los llamados modelos de lenguaje grande detr\u00e1s de dichos servicios, el trabajo de inferencia, o ejecutar los modelos para producir resultados, tambi\u00e9n es computacionalmente exigente. Los tel\u00e9fonos carecen de la memoria para contener modelos grandes como el que est\u00e1 detr\u00e1s de ChatGPT, as\u00ed como de la potencia de procesamiento necesaria para ejecutarlos. <\/p>\n
Generar una respuesta a una consulta en un dispositivo, en lugar de esperar a que un centro de datos remoto produzca un resultado, tambi\u00e9n podr\u00eda reducir la latencia o el retraso del uso de una aplicaci\u00f3n. Cuando los datos personales de un usuario se utilizan para refinar las respuestas generativas, mantener todo el procesamiento en un tel\u00e9fono tambi\u00e9n podr\u00eda mejorar la privacidad.<\/p>\n
M\u00e1s que nada, la IA generativa podr\u00eda facilitar la realizaci\u00f3n de actividades comunes en un tel\u00e9fono inteligente, por ejemplo, cuando se trata de cosas que involucran la producci\u00f3n de texto. \u201cPodr\u00edas incrustar [the AI] en cada aplicaci\u00f3n de oficina: recibe un correo electr\u00f3nico, sugiere una respuesta\u201d, dijo Amon. \u201cVa a necesitar la capacidad de ejecutar esas cosas localmente, as\u00ed como en el centro de datos\u201d.<\/p>\n
Los r\u00e1pidos avances en algunos de los modelos subyacentes han cambiado la ecuaci\u00f3n. Los m\u00e1s grandes y avanzados, como PaLM 2 de Google y GPT-4 de OpenAI, han acaparado los titulares. Pero una explosi\u00f3n de modelos m\u00e1s peque\u00f1os ha hecho que algunas de las mismas capacidades est\u00e9n disponibles en formas menos exigentes desde el punto de vista t\u00e9cnico. Estos se han beneficiado en parte de las nuevas t\u00e9cnicas para ajustar los modelos de lenguaje basados \u200b\u200ben una selecci\u00f3n m\u00e1s cuidadosa de los conjuntos de datos en los que se entrenan, lo que reduce la cantidad de informaci\u00f3n que necesitan almacenar.<\/p>\n
Seg\u00fan Arvind Krishna, director ejecutivo de IBM, la mayor\u00eda de las empresas que buscan utilizar IA generativa en sus propios servicios obtendr\u00e1n gran parte de lo que necesitan al combinar varios de estos modelos m\u00e1s peque\u00f1os. Hablando la semana pasada cuando IBM anunci\u00f3 una plataforma tecnol\u00f3gica para ayudar a sus clientes a aprovechar la IA generativa, dijo que muchos optar\u00edan por usar modelos de c\u00f3digo abierto, donde el c\u00f3digo era m\u00e1s transparente y podr\u00eda adaptarse, en parte porque ser\u00eda m\u00e1s f\u00e1cil de afinar la tecnolog\u00eda utilizando sus propios datos.<\/p>\n
Algunos de los modelos m\u00e1s peque\u00f1os ya han demostrado capacidades sorprendentes. Incluyen LLaMa, un modelo de lenguaje de c\u00f3digo abierto lanzado por Meta, que se afirma que coincide con muchas de las caracter\u00edsticas de los sistemas m\u00e1s grandes. <\/p>\n
LLaMa viene en varios tama\u00f1os, el m\u00e1s peque\u00f1o de los cuales tiene solo 7 mil millones de par\u00e1metros, mucho menos que los 175 mil millones de GPT-3, el innovador modelo de lenguaje que OpenAI lanz\u00f3 en 2020; el n\u00famero de par\u00e1metros en GPT-4, lanzado este a\u00f1o, no ha sido revelado. Un modelo de investigaci\u00f3n basado en LLaMa y desarrollado en la Universidad de Stanford ya se ha mostrado funcionando en uno de los tel\u00e9fonos Pixel 6 de Google.<\/p>\n
Adem\u00e1s de su tama\u00f1o mucho m\u00e1s peque\u00f1o, la naturaleza de c\u00f3digo abierto de modelos como este tambi\u00e9n ha facilitado que los investigadores y desarrolladores los adapten a diferentes entornos inform\u00e1ticos. A principios de este a\u00f1o, Qualcomm mostr\u00f3 lo que afirmaba que era el primer tel\u00e9fono Android que ejecutaba el modelo de generaci\u00f3n de im\u00e1genes de Stable Diffusion, que tiene alrededor de 1.000 millones de par\u00e1metros. El fabricante de chips hab\u00eda “cuantificado” o reducido el tama\u00f1o del modelo para ejecutarlo m\u00e1s f\u00e1cilmente en un tel\u00e9fono sin perder nada de su precisi\u00f3n, dijo Ziad Asghar, vicepresidente senior de Qualcomm.<\/p>\n