Introduction à gpt-oss : Une nouvelle ère pour l’IA locale
OpenAI a récemment annoncé des modèles open source qui peuvent être téléchargés et installés sur des ordinateurs personnels : gpt-oss . Cela marque une étape significative dans l’accessibilité de la technologie de l’IA . Avec ces modèles à portée de main, il devient possible de manipuler l’intelligence artificielle en local , c’est-à-dire d’exécuter ces modèles directement sur votre ordinateur. Dans cet article, nous allons explorer comment installer et utiliser ces modèles de manière efficace.
Differences entre gpt-oss-120b et gpt-oss-20b
Malgré des noms similaires, gpt-oss-120b et gpt-oss-20b présentent des différences notables en termes de capacités et de ressources nécessaires . Le modèle gpt-oss-120b est plus puissant, atteignant une parité proche de celle d’OpenAI o4-mini, mais nécessite au moins 60 Go de mémoire graphique . En revanche, gpt-oss-20b est plus accessible, similaire à o3-mini selon OpenAI, et peut fonctionner sur des appareils edge , c’est-à-dire des ordinateurs ordinaires disposant d’au moins 16 Go de mémoire , de préférence graphique.
Voici un résumé des différences :
- gpt-oss-120b : Modèle exigeant, minimum 60 Go de VRAM , inadapté pour les ordinateurs de consommation.
- gpt-oss-20b : Modèle plus léger, minimum 16 Go de VRAM , compatible avec les ordinateurs de consommation.
Ce dernier modèle, gpt-oss-20b, sera celui que nous utiliserons pour ce tutoriel.
Considérations avant de commencer
Exécuter une IA de ce type en local est un processus intensif qui pourrait ralentir significativement votre ordinateur. Bien que 16 Go de RAM soient le minimum, il est idéal d’avoir une GPU de haute performance pour garantir une expérience fluide. Si votre système est en deçà de ce seuil, l’IA utilisera alors votre mémoire RAM, qui devrait également être d’au moins 16 Go , sinon vous rencontrerez des problèmes de performance.
Pour un fonctionnement optimal, il est conseillé de fermer toutes les applications non essentielles pour permettre à votre système d’allouer tous ses ressources à l’exécution du modèle.
Installation d’Ollama sur votre ordinateur
Dans ce guide, nous allons utiliser une application bien connue : Ollama . Cette plateforme open source facilite considérablement l’installation, l’accès et l’utilisation des Large Language Models (LLMs) . En d’autres termes, Ollama sert d’interface pour faire fonctionner les modèles sur votre appareil.
Tout comme ChatGPT fonctionne en ligne avec GPT-4o, Ollama permet d’interagir avec des modèles locaux , installés sur votre machine. Il s’agit d’un logiciel gratuit, open source, disponible pour Windows, Mac et Linux.
Téléchargez gpt-oss
Une fois Ollama installé, l’interface se présente de manière intuitive et conviviale. Bien que vous puissiez également utiliser la ligne de commande pour interagir avec Ollama, l’interface graphique est nettement plus agréable à utiliser.
Dans l’interface, il y a un menu déroulant en bas à droite permettant de choisir le modèle à utiliser. Si vous cliquez sur ce menu, vous aurez accès à plusieurs modèles. Pour notre utilisation, sélectionnez “gpt-oss:20b” .
En choisissant “gpt-oss:20b”, il vous suffira d’envoyer un message dans le chat pour que le modèle commence à se télécharger . Notez que ce modèle fait environ 12,8 Go , alors préparez-vous à patienter un moment.
Une fois téléchargé, vous pourrez commencer à interagir avec ce modèle d’intelligence artificielle. Toutefois, si votre GPU ne remplit pas les exigences minimales, vous remarquerez que le modèle sera beaucoup plus lent que ce que vous pourriez attendre d’une version en ligne comme ChatGPT, car vous l’exécutez sur votre machine, pas sur un serveur de données de haute performance.
Alternatives : LM Studio
Ollama est un choix intuitif et simple, mais si vous recherchez plus de fonctionnalités, vous pourriez envisager d’utiliser LM Studio . Cet outil est également disponible sur Windows, Linux et Mac, et, comme Ollama, il peut gérer plusieurs modèles, dont gpt-oss:20b . LM Studio offre davantage de flexibilité et permet une personnalisation plus poussée. Cela dit, pour en tirer le meilleur parti, il faudra des connaissances plus avancées en matière de configuration.
En résumé, vous disposez maintenant de toutes les clés pour installer et utiliser gpt-oss sur votre ordinateur. Ce pas vers l’IA locale permet d’ouvrir un champ d’exploration innovant pour les utilisateurs qui souhaitent tirer parti des technologies avancées d’intelligence artificielle sur leurs propres machines. Que ce soit pour un usage personnel ou professionnel, l’accessibilité des modèles open source constitue une avancée majeure dans le domaine de l’IA.