Ollama est un logiciel gratuit et open source qui fait tourner des modèles de langage directement sur votre machine, sans envoyer vos données à un service externe. Pour l’installer, une seule commande suffit sur Linux et macOS, un installeur classique existe pour Windows. Vous téléchargez ensuite un modèle avec ollama pull, vous discutez avec lui via ollama run, et vous l’interrogez depuis vos scripts grâce à une API locale compatible avec celle d’OpenAI. Ce guide en français couvre l’installation, le choix du modèle selon votre RAM, les commandes utiles, l’API, et le déploiement sur un serveur.

Nous utilisons Ollama en production sur nos propres serveurs depuis plusieurs mois. Les conseils qui suivent viennent de cette expérience réelle, y compris les chiffres de performance sans GPU, rarement annoncés honnêtement.

Ollama, c’est quoi exactement ?

Ollama est un exécuteur de modèles de langage, on parle de runtime LLM. Il télécharge des modèles open source au format optimisé GGUF, les charge en mémoire, et expose une interface en ligne de commande ainsi qu’une API HTTP locale sur le port 11434. Le projet s’appuie sur la bibliothèque llama.cpp pour l’inférence et ajoute ce qui manquait : gestion des modèles comme des images Docker, service qui tourne en arrière-plan, API stable.

Concrètement, cela veut dire trois choses. Vos textes ne quittent jamais votre machine, ce qui règle la question de la confidentialité pour les données sensibles. Vous ne payez aucun abonnement ni aucun jeton d’API. Et vous travaillez hors ligne une fois le modèle téléchargé. La contrepartie est simple : les modèles qui tiennent sur une machine personnelle sont moins capables que les grands modèles commerciaux, et la vitesse dépend entièrement de votre matériel.

La bibliothèque officielle propose des centaines de modèles : Gemma de Google, Llama de Meta, Qwen d’Alibaba, Mistral, DeepSeek, ainsi que des modèles spécialisés pour le code ou les embeddings. Chaque modèle existe en plusieurs tailles, mesurées en milliards de paramètres.

Installer Ollama sur Windows, macOS et Linux

Sur Linux, le script officiel détecte votre distribution et installe le service systemd :

curl -fsSL https://ollama.com/install.sh | sh

# Vérifier que le service répond
ollama --version
systemctl status ollama

Sur macOS, téléchargez l’application depuis le site officiel ou passez par Homebrew avec brew install ollama. Sur Windows, un installeur classique est fourni, ou bien winget install Ollama.Ollama dans un terminal. Dans tous les cas, l’installation crée un service qui écoute sur 127.0.0.1:11434, uniquement accessible depuis la machine locale par défaut. C’est un bon réglage, ne l’ouvrez pas vers l’extérieur sans lire la section sécurité plus bas.

Aucun compte n’est requis pour installer ni pour télécharger des modèles. Si vous êtes sur une machine sans droits administrateur, le binaire Linux peut aussi s’installer en espace utilisateur, il suffit de le placer dans ~/.local/bin et de lancer ollama serve vous-même.

Lancer un premier modèle en deux commandes

Le plus simple pour commencer est un modèle léger et bon en français, comme Gemma en version 4 milliards de paramètres :

ollama pull gemma3:4b
ollama run gemma3:4b

# Puis tapez votre question directement :
# >>> Explique-moi la différence entre un processus et un thread.

pull télécharge le modèle, quelques gigaoctets selon la taille, et run ouvre une conversation dans le terminal. La première réponse est plus lente que les suivantes, car le modèle doit d’abord se charger en mémoire. Il y reste ensuite quelques minutes, réglables, ce qui rend les échanges suivants nettement plus rapides.

Pour quitter la conversation, tapez /bye. Le tag après les deux points désigne la variante : gemma3:4b est la version 4 milliards de paramètres, gemma3:12b la version 12 milliards, plus capable mais plus gourmande.

Quel modèle choisir selon votre machine ?

La règle pratique : un modèle quantifié en 4 bits occupe environ la moitié de sa taille en paramètres, en gigaoctets de mémoire. Un modèle 4B demande environ 4 Go de RAM libre, un 8B autour de 6 Go, un 14B autour de 10 Go, un 70B dépasse 40 Go. Si le modèle ne tient pas en mémoire vive ou en mémoire vidéo, il ne tournera pas, ou alors à une lenteur inutilisable.

Avec 8 Go de RAM, restez sur les modèles 3B et 4B : Gemma 4B, Llama 3B, Qwen 4B. Avec 16 Go, les 7B et 8B deviennent confortables et le saut de qualité est réel. Avec 32 Go ou une carte graphique dédiée, les 12B à 30B s’ouvrent à vous. Un GPU NVIDIA ou une puce Apple Silicon accélère l’inférence de façon spectaculaire, souvent d’un facteur dix par rapport au processeur seul. Nous avons détaillé la question du matériel dans notre guide sur les LLM en local sur GPU.

Pour le français, notre retour d’expérience est constant : à taille égale, Gemma produit un français plus naturel que Llama, et les modèles en dessous de 3B font trop d’erreurs pour un usage sérieux. Testez toujours deux ou trois modèles sur vos propres cas d’usage avant de choisir, le classement change selon la tâche. Et si un modèle générique ne suffit pas, le fine-tuning avec LoRA permet de le spécialiser sans tout réentraîner.

Les commandes Ollama à connaître

Une poignée de commandes couvre l’usage quotidien :

ollama list          # modèles téléchargés et leur taille
ollama ps            # modèles actuellement chargés en mémoire
ollama pull qwen3:8b # télécharger ou mettre à jour un modèle
ollama rm gemma3:4b  # supprimer un modèle du disque
ollama show gemma3:4b   # fiche du modèle : contexte, licence, template
ollama stop gemma3:4b   # décharger le modèle de la mémoire

Deux détails utiles. ollama ps indique si le modèle tourne sur GPU, sur CPU ou en mode partagé, précieux pour diagnostiquer une lenteur. Et les modèles sont stockés dans ~/.ollama/models, un dossier qui grossit vite : pensez à supprimer les modèles que vous n’utilisez plus.

Vous pouvez aussi créer vos propres variantes avec un Modelfile, l’équivalent d’un Dockerfile : modèle de base, instructions système, paramètres de génération. C’est la bonne façon de figer un assistant spécialisé, par exemple un relecteur de code qui répond toujours en français.

Utiliser l’API locale d’Ollama

Tout ce que fait la ligne de commande passe par l’API HTTP locale. Le point d’entrée principal pour la conversation est /api/chat :

curl -s http://localhost:11434/api/chat -d '{
  "model": "gemma3:4b",
  "stream": false,
  "messages": [
    {"role": "system", "content": "Tu réponds en français, en deux phrases maximum."},
    {"role": "user", "content": "À quoi sert un fichier robots.txt ?"}
  ]
}'

La réponse est un JSON avec le message généré et des métriques de durée. Par défaut l’API répond en streaming, un fragment par ligne, ce qui permet d’afficher le texte au fil de la génération comme le font les interfaces de chat. Le paramètre "stream": false renvoie tout d’un bloc, plus simple pour un script.

D’autres routes existent : /api/generate pour une complétion simple, /api/embed pour calculer des embeddings, utile pour la recherche sémantique et le RAG, et /api/tags pour lister les modèles disponibles. Notre tutoriel agent RAG en Python montre un pipeline complet qui exploite ce type d’API.

Ollama avec Python et l’API compatible OpenAI

Ollama expose aussi une API compatible avec le format OpenAI sur /v1. Conséquence pratique : tout code écrit pour l’API OpenAI bascule en local en changeant deux lignes, l’URL de base et le nom du modèle :

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:11434/v1",
    api_key="ollama"  # requis par la librairie, valeur ignorée
)

reponse = client.chat.completions.create(
    model="gemma3:4b",
    messages=[
        {"role": "user", "content": "Résume l'intérêt d'un LLM local en une phrase."}
    ],
)
print(reponse.choices[0].message.content)

Cette compatibilité fait d’Ollama un environnement de test idéal : vous développez et déboguez en local gratuitement, puis vous pointez le même code vers un fournisseur commercial pour la production si la qualité l’exige. Les frameworks habituels, LangChain, LlamaIndex et les autres, ont tous un connecteur Ollama natif.

Brancher Ollama sur vos outils de développement

Le cas d’usage qui monte le plus en 2026, c’est le branchement d’un agent de code sur un modèle local. Nous avons documenté pas à pas comment utiliser Claude Code avec Ollama, ce qui permet de garder l’agent tout en faisant tourner l’inférence chez vous. Si vous partez de zéro, commencez par installer Claude Code puis revenez au branchement Ollama.

Même logique pour les éditeurs : les extensions VS Code de complétion locale, les interfaces graphiques de chat comme Open WebUI, et les serveurs MCP qui donnent des outils aux modèles savent tous parler à l’API d’Ollama. Sur ce dernier point, notre guide du serveur MCP WordPress montre comment un modèle peut piloter un site, la même approche fonctionne avec un modèle servi par Ollama.

Un conseil issu de notre pratique : réservez les modèles locaux aux tâches cadrées, résumé, extraction, classification, complétion courte. Pour l’agentique lourde, plusieurs outils enchaînés et raisonnement long, les petits modèles suivent mal les consignes et la différence avec les grands modèles commerciaux reste nette.

Installer Ollama sur un VPS ou un serveur

Ollama tourne très bien sur un serveur Linux sans interface graphique, le script d’installation crée le service systemd automatiquement. Pour qu’une application hébergée sur la même machine l’interroge, il n’y a rien à faire, l’API répond déjà sur localhost. Pour l’exposer à d’autres machines, il faut modifier la variable OLLAMA_HOST :

sudo systemctl edit ollama
# Dans l'éditeur, ajouter :
[Service]
Environment="OLLAMA_HOST=0.0.0.0:11434"

sudo systemctl daemon-reload
sudo systemctl restart ollama

Ne faites cela que derrière un pare-feu ou un reverse proxy avec authentification, jamais en frontal sur une IP publique. Sur un serveur partagé avec d’autres services, pensez aussi à limiter la concurrence et à lancer le service avec une priorité réduite via Nice=, sans quoi une génération peut saturer tous les cœurs et dégrader le reste de la machine. C’est un réglage que nous appliquons systématiquement en production.

Sécuriser une instance Ollama exposée

L’API d’Ollama n’a aucune authentification native. Toute personne qui atteint le port 11434 peut interroger vos modèles, en télécharger d’autres et remplir votre disque. Des milliers d’instances ouvertes sont déjà recensées par les moteurs de recherche spécialisés, ne rejoignez pas la liste. Trois protections cumulables :

# 1. Pare-feu : n'autoriser que les IP légitimes
sudo ufw allow from 203.0.113.10 to any port 11434

# 2. Reverse proxy nginx avec authentification basique
location /ollama/ {
    auth_basic "Ollama";
    auth_basic_user_file /etc/nginx/.htpasswd;
    proxy_pass http://127.0.0.1:11434/;
}

La troisième protection est la plus simple : laisser l’écoute sur 127.0.0.1 et passer par un tunnel SSH quand vous avez besoin d’un accès distant ponctuel, avec ssh -L 11434:localhost:11434 utilisateur@serveur. Aucun port supplémentaire ouvert, chiffrement inclus.

Performances réelles : à quoi s’attendre sans GPU

Les benchmarks publiés supposent presque toujours un GPU récent. Voici des ordres de grandeur constatés de notre côté, en production, sur un VPS 4 vCPU sans carte graphique : un modèle 4B génère une réponse de 200 à 300 mots en 55 à 90 secondes, chargement initial compris. Un modèle 1B répond en une quinzaine de secondes mais la qualité du français et le respect des consignes chutent nettement. Un 8B devient pénible sans GPU, comptez plusieurs minutes.

Sur un portable avec puce Apple Silicon ou un PC avec GPU même modeste, ces temps sont divisés par cinq à dix, et l’usage interactif devient réellement confortable. Retenez la logique : le CPU seul convient aux traitements par lots et aux tâches asynchrones, l’usage conversationnel fluide demande une accélération matérielle. Dimensionnez d’abord le besoin, ensuite la machine, pas l’inverse.

FAQ sur Ollama

Ollama est-il vraiment gratuit ?

Oui. Le logiciel est open source sous licence MIT et les modèles de la bibliothèque sont téléchargeables sans compte ni paiement. Vos seuls coûts sont le matériel et l’électricité. Vérifiez la licence de chaque modèle pour un usage commercial, elles diffèrent selon les éditeurs.

Quelle configuration faut-il pour utiliser Ollama ?

Au minimum 8 Go de RAM pour les modèles 3B et 4B. 16 Go ouvrent les modèles 7B et 8B. Un GPU n’est pas obligatoire mais change complètement le confort d’utilisation, l’inférence est cinq à dix fois plus rapide qu’en CPU seul.

Quel modèle Ollama est le meilleur en français ?

À taille comparable, Gemma et Mistral produisent le français le plus naturel dans nos tests. En dessous de 3 milliards de paramètres, les erreurs de langue et les consignes ignorées deviennent trop fréquentes pour un usage sérieux.

Quelle différence entre Ollama et ChatGPT ?

ChatGPT est un service en ligne qui exécute de très grands modèles sur les serveurs d’OpenAI. Ollama exécute des modèles open source plus petits sur votre propre machine. Vous gagnez la confidentialité, le travail hors ligne et la gratuité, vous perdez en puissance brute de raisonnement.

Ollama fonctionne-t-il sans connexion internet ?

Oui, c’est même un de ses intérêts principaux. La connexion n’est nécessaire que pour télécharger les modèles. Une fois le ollama pull effectué, la génération fonctionne entièrement hors ligne.

Sources et références

N
· Développeur WordPress & fullstack · Expert IA

Natsou développe sur WordPress depuis plus de 10 ans. Développeur fullstack et expert en intelligence artificielle, il conçoit, débogue et sécurise des sites en production et automatise les workflows d'agence. Sur WP Admin Lab, il partage des procédures testées en conditions réelles : diagnostics reproductibles, correctifs vérifiés et retours de terrain, sans jargon inutile.

mastodon