Faire tourner une IA sur son ordinateur avec Ollama : ce qu'il faut, et ce que ça vaut

Faire tourner une IA en local, ça veut dire installer un modèle de langage directement sur ton disque dur et discuter avec lui sans connexion internet, sans abonnement mensuel et sans qu'une seule de tes phrases parte sur un serveur extérieur. Ollama est l'outil qui rend l'opération accessible : un fichier à installer, une commande à taper, et un modèle comme Llama, Mistral ou Gemma répond chez toi en quelques secondes.

La vraie question n'est pas « est-ce que c'est possible » (oui, même sur un ordinateur portable de 2021) mais « est-ce que ça vaut le coup pour ce que je veux faire ». Tu trouveras ici la configuration minimale réelle, l'installation pas à pas, quels modèles choisir selon ta mémoire vive, et une comparaison honnête avec les autres façons d'utiliser l'IA. Résumé en une ligne : l'IA locale est excellente pour la confidentialité et pour comprendre comment ces modèles fonctionnent, moins bonne sur la qualité brute des réponses, et inutile si ton objectif est de produire des images, des vidéos ou de la musique.

Une IA en local, c'est quoi exactement ?

Une IA en local est un modèle de langage téléchargé sur ton ordinateur, qui calcule ses réponses avec ton processeur et ta carte graphique, sans passer par internet. Quand tu utilises ChatGPT ou Claude, ta question voyage jusqu'à un centre de données, un modèle de plusieurs centaines de milliards de paramètres la traite, et la réponse revient. En local, tout se passe entre ton clavier et ton disque dur.

Deux mots à connaître avant de continuer, sans jargon inutile :

• Les paramètres : c'est la « taille » du modèle, exprimée en milliards (on écrit 3B, 7B, 20B). Plus un modèle a de paramètres, plus il est pertinent, plus il pèse lourd et plus il demande de mémoire.
• La quantification : une compression du modèle pour qu'il tienne en mémoire. Ollama télécharge par défaut des versions dites Q4, quatre fois plus légères que l'original, avec une perte de qualité modérée. C'est ce qui permet de faire tourner un modèle de 7 milliards de paramètres sur un ordinateur ordinaire.

Ollama, lui, n'est pas une IA. C'est le programme qui télécharge les modèles, les lance, gère la mémoire et te donne une interface pour leur parler. Il est gratuit, open source, et fonctionne sur macOS, Windows et Linux.

Les trois façons d'utiliser une IA quand on débute

Avant d'installer quoi que ce soit, il faut savoir que l'IA locale n'est qu'une option parmi trois, et pas la plus rapide pour obtenir des résultats concrets. Voici les trois, dans l'ordre de ce qui fonctionne le mieux pour un débutant.

Méthode 1 : un environnement d'apprentissage avec les vrais outils inclus

C'est l'approche de Skilzy. Tu suis un programme guidé (écrire de bons prompts, créer des images, automatiser avec n8n, coder avec l'IA) et tu utilises les outils professionnels directement dans le « Lab IA » intégré, crédits compris. Tu n'installes rien, tu ne cumules pas six abonnements à 20 € pour tester, et tu ne perds pas trois soirées à faire fonctionner un pilote graphique.

L'intérêt pour qui débute : tu apprends la méthode en même temps que l'outil. Les plus de 15 programmes de formation à l'IA de Skilzy partent du niveau zéro, et deux d'entre eux mènent à une certification reconnue par l'État et finançable (RS7439 en marketing de contenus IA, RS6792 en IA et vente).

Ce que cette méthode ne fait pas : elle ne t'apprend pas à administrer un serveur d'inférence. Si ton objectif est précisément de faire tourner un modèle hors ligne sur ta machine, passe à la méthode 2.

Méthode 2 : Ollama, le modèle chez toi

Gratuit, hors ligne, confidentiel, sans limite de messages. C'est la méthode détaillée dans le reste de cet article. Elle demande un ordinateur correct, un peu de patience, et l'acceptation d'un fait simple : un modèle de 7 milliards de paramètres sur ton portable ne raisonne pas comme un modèle de pointe hébergé dans un centre de données.

Méthode 3 : les versions gratuites des grands chatbots

ChatGPT, Claude et Gemini proposent tous un accès gratuit dans le navigateur, avec des modèles bien plus puissants que tout ce que tu feras tourner en local. La contrepartie : des quotas journaliers, et tes conversations qui passent par un serveur. Si tu hésites entre les trois, la comparaison détaillée de ChatGPT, Claude et Gemini en version gratuite te fera gagner du temps.

Ces trois méthodes se combinent très bien. Beaucoup de gens apprennent avec un programme structuré, utilisent un chatbot en ligne au quotidien, et gardent Ollama pour les documents sensibles.

Ce qu'il faut comme matériel pour faire tourner Ollama

La mémoire vive est le facteur décisif : la documentation officielle d'Ollama recommande au moins 8 Go de RAM pour un modèle de 7 milliards de paramètres, 16 Go pour un modèle 13B et 32 Go pour un modèle 33B. Tout le reste est secondaire.

En pratique, voici ce qui compte, par ordre d'importance :

1. La RAM (ou la VRAM de la carte graphique). Le modèle doit tenir entièrement en mémoire, sinon ton système compense sur le disque et la vitesse s'écroule. Compte la taille du fichier du modèle plus environ 1 à 2 Go pour le reste.
2. La carte graphique. Une carte NVIDIA récente (RTX 3060 et au-dessus) ou un Mac Apple Silicon (M1 à M4, dont la mémoire est partagée entre processeur et carte graphique) donne des réponses fluides, autour de 20 à 60 mots par seconde. Ollama détecte le matériel tout seul.
3. Le processeur seul. Ça marche, vraiment, mais c'est lent : sur un portable sans carte graphique dédiée, attends-toi à 3 à 10 mots par seconde avec un petit modèle. Suffisant pour relire un texte, pénible pour une conversation longue.
4. L'espace disque. Chaque modèle pèse entre 1 et 15 Go. Prévois 20 Go libres si tu veux en essayer plusieurs.

Un repère concret : un MacBook Air M2 avec 16 Go, un PC avec 16 Go de RAM et une RTX 3060, ou même un portable de bureau à 8 Go pour les petits modèles. En dessous de 8 Go de RAM, reste sur les modèles de 1 à 3 milliards de paramètres.

Installer Ollama et lancer ton premier modèle en 10 minutes

L'installation tient en trois étapes : télécharger Ollama, taper une commande, attendre le téléchargement du modèle. Aucune compétence en programmation n'est nécessaire.

Étape 1 : installer Ollama. Va sur le site officiel et récupère la version correspondant à ton système. Sur macOS et Windows, c'est une application classique avec une fenêtre de discussion. Sur Linux, une seule ligne à coller dans le terminal, fournie sur la page de téléchargement.

Étape 2 : ouvrir un terminal. Sur Mac, l'application Terminal. Sur Windows, PowerShell ou l'invite de commandes. Tape ollama --version et valide : si un numéro s'affiche, tout est en place.

Étape 3 : lancer un modèle. Tape ollama run llama3.2 puis Entrée. Ollama télécharge environ 2 Go la première fois, puis affiche une invite où tu peux écrire ta question comme dans n'importe quel chat. Pour quitter la conversation, tape /bye.

Quatre commandes suffisent au quotidien :

• ollama list : voir les modèles installés
• ollama pull mistral : télécharger un modèle sans le lancer
• ollama rm mistral : supprimer un modèle et libérer l'espace disque
• ollama ps : voir ce qui tourne et combien de mémoire c'est en train de prendre

Si le terminal te rebute, Ollama ouvre aussi une petite interface web locale à l'adresse localhost, port 11434, et des projets gratuits comme Open WebUI y ajoutent une présentation proche de ChatGPT, avec historique des conversations et envoi de fichiers. Les détails sont dans la documentation officielle d'Ollama.

Quel modèle choisir selon ta machine

Commence toujours par le plus petit modèle utilisable sur ta configuration, puis monte en taille tant que la vitesse reste supportable. L'erreur classique du débutant est de télécharger d'emblée un modèle de 20 milliards de paramètres, de le voir ramer, et d'en conclure que l'IA locale ne marche pas.

Modèle	Poids du téléchargement	RAM conseillée	Bon pour
Llama 3.2 (3B)	environ 2 Go	8 Go	Premier test, résumés, reformulation
Gemma 3 (4B)	environ 3 Go	8 Go	Textes courts, lecture d'images
Mistral (7B)	environ 4 Go	16 Go	Rédaction en français, questions générales
Qwen 3 (8B)	environ 5 Go	16 Go	Raisonnement, code, multilingue
gpt-oss (20B)	environ 14 Go	32 Go ou 16 Go de VRAM	Tâches complexes, usage sérieux hors ligne

Deux remarques utiles. Les modèles de moins de 4 milliards de paramètres écrivent un français correct mais inventent facilement des faits : ne leur demande ni dates, ni chiffres, ni citations. Et aucun de ces modèles n'a accès à internet : leurs connaissances s'arrêtent à leur date d'entraînement, et ils ne liront pas une page web pour toi sans configuration supplémentaire.

Ce que ça vaut vraiment : bénéfices et limites

L'IA locale gagne sur la confidentialité, le coût et la disponibilité hors ligne ; elle perd sur la qualité des réponses, la vitesse et tout ce qui touche à l'image, à la vidéo ou au son. Vu la question posée, autant être direct.

Ce pour quoi Ollama est un très bon choix :

• Les documents que tu ne veux envoyer à personne : contrats, dossiers médicaux, données clients, notes internes. Rien ne sort de ta machine.
• Le volume : tu peux traiter 500 fiches produit sans compter les crédits ni payer à l'usage.
• Comprendre le fonctionnement : changer de modèle, jouer sur la température, voir l'effet de la taille sur la qualité. C'est pédagogiquement très formateur, dans le prolongement de ce que couvre le guide pour apprendre l'IA quand on débute.
• Les coupures de connexion : train, avion, zone blanche.

Ce pour quoi ce n'est pas la bonne solution :

• La qualité de raisonnement. Un modèle 7B se trompe nettement plus souvent qu'un modèle de pointe en ligne sur une analyse longue ou un calcul en plusieurs étapes.
• La création visuelle et sonore. Ollama fait tourner des modèles de texte. Pour des images, des vidéos UGC, des voix off ou de la musique, il faut d'autres outils, souvent lourds à installer et gourmands en VRAM.
• Le temps d'installation. Compte une à deux heures si ta configuration résiste (pilotes, mémoire insuffisante, modèle mal choisi).
• L'absence de garde-fous. Personne ne te dira que ton prompt est mauvais. Or c'est là que se joue 80 % du résultat, quel que soit le modèle.

Autre point à garder en tête si tu veux valoriser ces compétences : aucune installation locale ne figure sur un CV. Une certification, si. Les deux certifications de Skilzy sont enregistrées au Répertoire spécifique de France Compétences et mobilisables via les dispositifs de financement de la formation, ce qui change la donne sur un dossier de reconversion. Si c'est ton cas, l'article sur la reconversion dans l'IA à 30, 40 ou 50 ans détaille les parcours possibles.

Le mot de la fin

Installe Ollama, lance Llama 3.2, pose-lui trois questions : en un quart d'heure, tu sauras si ta machine suit et si l'expérience te convient. Garde le local pour ce qu'il fait mieux que tout le monde, c'est-à-dire tes données sensibles et le volume, et utilise un environnement guidé avec de vrais outils pour apprendre à produire des résultats. Les deux approches ne s'opposent pas, elles couvrent des besoins différents.