Meta se asocia con Qualcomm para llevar Llama 2 a todos los dispositivos conectados

Desde su lanzamiento el 18 de julio de 2023, Llama 2 se ha destacado como un gran modelo de lenguaje competitivo para ChatGPT de OpenAI y Google Bard. Esta herramienta de inteligencia artificial gratuita y de código abierto pronto estará disponible en dispositivos conectados alimentados por semiconductores de Qualcomm, gracias a la firma de una asociación con Meta.

Precursor de Qualcomm en la ejecución de IA generativa en teléfonos inteligentes

Si tienen suficiente poder de cómputo, las PC, pero también los teléfonos inteligentes, tienen la posibilidad de ejecutar IA generativas. Esto es lo que Qualcomm logró demostrar en la edición 2023 de la Conferencia sobre Visión por Computador y Reconocimiento de Patrones (CVPR). La empresa presentó un modelo de visión del lenguaje donde las imágenes eran generadas por IA desde un dispositivo móvil.

Interesado en el rendimiento logrado por Qualcomm, Meta se acercó a la empresa para hacer accesible Llama 2 en cualquier dispositivo conectado. Como dice el especialista en tecnología móvil, el objetivo es ” Ejecutar modelos generativos de IA como Llama 2 en dispositivos como teléfonos inteligentes, PC, auriculares VR/AR y vehículos ayuda a los desarrolladores a ahorrar costos en la nube y brinda a los usuarios experiencias privadas, más confiables y personalizadas. “.

Para lograr esto, los investigadores de Qualcomm se basan en dos palancas. El primero es optimizar los modelos de inteligencia artificial. Buscan reducir tanto su tamaño como su complejidad, manteniendo su funcionalidad y rendimiento. El segundo se basa en Qualcomm AI Stack, un conjunto de herramientas para optimizar las IA para que puedan ejecutarse en dispositivos que utilizan sus chips Snapdragon 8 de segunda generación.

Llama 2 de Meta se ejecutará en dispositivos conectados el próximo año

Qualcomm planea hacer que el tiempo de ejecución de IA basado en Llama 2 esté disponible para dispositivos con sus chips Snapdragon a partir de 2024. Sin embargo, los desarrolladores ya pueden optimizar sus soluciones de IA en sus teléfonos inteligentes, computadoras portátiles, auriculares de realidad mixta y dispositivos IoT con Qualcomm AI Stack. Tenga en cuenta que esto solo funciona para dispositivos con tecnología Qualcomm.

Durga Malladi, vicepresidente sénior y gerente general de planificación tecnológica y soluciones perimetrales de Qualcomm, aplaudió “ El enfoque de Meta para una IA abierta y responsable ». También se comprometió impulsar la innovación y reducir las barreras de entrada para los desarrolladores de todos los tamaños al llevar la IA generativa a los dispositivos móviles ».

Además de esta colaboración, Meta y Qualcomm han estado trabajando durante varios meses en nuevos chips de realidad virtual personalizados, basados ​​en Snapdragon XR.