Faire tourner une IA en local : quel matériel, quel coût, pour quels usages ?
Materiel necessaire, budget reel et cas ou une IA locale remplace vraiment un abonnement cloud pour une TPE ou un independant en 2026.
En bref. Faire tourner un modèle de langage sur sa propre machine est devenu accessible : 16 Go de mémoire suffisent pour un modèle de 7 à 8 milliards de paramètres, 32 Go pour un modèle de 20 à 30 milliards utilisable au quotidien. Le ticket d’entrée réaliste se situe entre 700 € pour un Mac mini d’occasion et 1 800 € pour une machine à carte graphique dédiée. Face à un abonnement à 20 € par mois, l’amortissement demande trois à six ans — le local ne se justifie donc pas par le prix, mais par la confidentialité, le volume de traitement automatisé et l’absence de dépendance à un fournisseur.
Ce que la mémoire disponible permet réellement
Un modèle tient en mémoire, et sa taille dépend de deux choses : son nombre de paramètres et sa quantification, c’est-à-dire la précision avec laquelle chaque paramètre est stocké. En pratique, tout le monde utilise aujourd’hui du 4 bits, qui divise la taille par quatre pour une perte de qualité faible sur les tâches courantes.
| Mémoire disponible | Taille de modèle jouable | Ce que ça permet |
|---|---|---|
| 8 Go | 3 à 4 milliards de paramètres | Reformulation, classement d’e-mails, extraction simple |
| 16 Go | 7 à 9 milliards | Rédaction correcte, résumé de documents, traduction |
| 24 Go | 14 à 22 milliards | Analyse de documents longs, code, raisonnement acceptable |
| 32 à 48 Go | 27 à 32 milliards | Usage professionnel quotidien sans frustration |
| 64 Go et plus | 70 milliards | Proche des modèles cloud d’il y a un an |
Sur Mac, la mémoire est unifiée : les 16 Go d’un Mac mini M4 servent au système et au modèle, et on considère que 70 % environ sont utilisables pour l’inférence. Sur PC, seule la mémoire de la carte graphique compte vraiment. Un modèle qui déborde sur la mémoire système fonctionne quand même, mais la vitesse s’effondre — on passe de trente mots par seconde à trois, ce qui rend l’outil inutilisable pour autre chose qu’un traitement de nuit.
Trois configurations et leur prix réel
Configuration découverte, 700 à 900 €. Un Mac mini M4 16 Go neuf, ou un modèle M2 Pro d’occasion. Vous ferez tourner un modèle de 8 milliards de paramètres à une vitesse confortable, et un modèle de 14 milliards au ralenti. Suffisant pour évaluer si l’approche vous convient, insuffisant pour remplacer un abonnement professionnel.
Configuration de travail PC, 1 300 à 1 800 €. Une carte graphique de 16 Go de mémoire vidéo coûte 450 à 600 € selon les modèles, à laquelle il faut ajouter un boîtier complet avec 32 Go de mémoire système et une alimentation dimensionnée. C’est le meilleur rapport puissance-prix aujourd’hui, et la machine sert aussi à autre chose. Contrainte : bruit, chaleur, et 250 à 400 watts en charge.
Configuration confortable Mac, 2 200 à 3 000 €. Un Mac Studio ou un portable haut de gamme avec 48 à 64 Go de mémoire unifiée. Vous accédez aux modèles de 30 milliards de paramètres, la machine consomme 60 watts en charge, ne fait aucun bruit et se déplace. C’est la configuration que choisissent la plupart des indépendants qui traitent des documents confidentiels.
Ajoutez l’électricité : en France, à environ 0,25 € le kilowattheure, une machine PC qui infère deux heures par jour coûte 4 à 6 € par mois. Sur un Mac, moins de 1 €. Ce poste ne change pas la décision.
Le calcul de rentabilité, sans illusion
Comparons honnêtement. Un abonnement grand public à un assistant cloud coûte environ 20 € par mois, soit 240 € par an. Une machine à 1 500 € s’amortit donc en six ans, sans compter que le modèle local sera moins bon que le modèle cloud pendant toute cette période.
Le calcul change lorsque le volume augmente. Si vous traitez automatiquement 5 000 documents par mois via une interface de programmation, la facture cloud grimpe vite : entre 80 et 400 € mensuels selon le modèle et la longueur des textes. Là, une machine locale s’amortit en six à quinze mois et le raisonnement tient. De même si trois ou quatre personnes de l’entreprise utilisent le même serveur local : quatre abonnements à 20 € font 960 € par an.
Conclusion sobre : pour un usage individuel de rédaction et de conversation, le cloud reste moins cher et meilleur. Pour du traitement en volume, de la donnée sensible ou une équipe, le local devient défendable.
Les quatre situations où le local gagne vraiment
- Les données que vous n’avez pas le droit d’envoyer. Dossiers de santé, pièces d’un contentieux, données RH, comptabilité de clients. Un cabinet comptable ou un cabinet d’avocats a une raison sérieuse de ne rien faire sortir de ses murs, indépendamment des engagements contractuels des fournisseurs.
- Le traitement répétitif en masse. Classer 20 000 avis clients, extraire un champ de 3 000 factures, résumer une année d’échanges. Ces tâches ne demandent pas un modèle brillant, elles demandent un modèle correct qui tourne la nuit sans compter les jetons.
- Les contraintes de disponibilité. Pas de coupure d’interface de programmation, pas de limite de débit, pas de modèle retiré du catalogue au milieu d’un projet. Ce dernier point pèse davantage qu’on ne le croit : les fournisseurs cloud déprécient régulièrement des versions dont dépendaient des chaînes de traitement entières.
- L’apprentissage et l’expérimentation. Tester des consignes systèmes, mesurer l’effet de la température, comprendre comment un modèle échoue. En local, on itère sans regarder le compteur.
Ne construisez jamais un processus métier critique sur un modèle local sans avoir une solution de repli. Une carte graphique qui lâche, c’est une semaine d’arrêt. Prévoyez un accès cloud de secours et une consigne testée sur les deux.
Ce que vous perdez en passant au local
Il faut le dire clairement. Un modèle ouvert de 30 milliards de paramètres reste en retrait des meilleurs modèles cloud sur le raisonnement complexe, le code long et la rédaction dans une langue autre que l’anglais. Sur du français professionnel, la différence est perceptible : phrases plus plates, erreurs factuelles plus fréquentes, difficulté à tenir une consigne de style sur trois pages.
Vous perdez aussi les fonctions annexes : recherche web intégrée, lecture de fichiers volumineux, génération d’images, exécution de code, connexion à vos outils. Reconstituer cet environnement en local est possible mais représente un projet à part entière, pas une soirée de bricolage.
Enfin, la maintenance vous revient. Nouvelle version d’un modèle, mise à jour du moteur d’inférence, gestion du stockage — chaque modèle pèse 5 à 40 Go et une bibliothèque de six modèles occupe vite 150 Go.
Mise en route en une soirée
La procédure est devenue simple. Installez un moteur d’inférence local — Ollama et LM Studio sont les deux plus utilisés, le second offrant une interface graphique complète. Téléchargez un premier modèle de 7 à 8 milliards de paramètres en quantification 4 bits, ce qui représente environ 5 Go. Lancez une conversation et vérifiez la vitesse : au-dessus de quinze mots par seconde, l’usage interactif est agréable ; en dessous de cinq, réservez la machine aux traitements par lots.
Testez ensuite sur vos vraies tâches, pas sur des questions de culture générale. Donnez-lui trois de vos documents habituels et comparez le résultat à ce que produit votre outil cloud. C’est le seul test qui compte, et il tranche la question en une heure.
Si le résultat vous convient, la suite consiste à exposer le modèle à vos autres outils. La plupart des moteurs locaux offrent une interface compatible avec celle des grands fournisseurs, ce qui permet de brancher un script existant en changeant une seule adresse.
Questions fréquentes
Faut-il obligatoirement une carte graphique pour faire tourner une IA en local ?
Non, un processeur récent avec suffisamment de mémoire fait tourner un modèle de 7 à 8 milliards de paramètres, mais lentement — typiquement trois à huit mots par seconde. C’est acceptable pour un traitement automatisé lancé la nuit, pénible pour une conversation. Les puces Apple récentes constituent l’exception, grâce à leur mémoire unifiée rapide.
Un modèle local est-il vraiment plus confidentiel ?
Oui, à condition que le moteur d’inférence ne remonte aucune donnée et que la machine ne soit pas exposée sur internet. Vérifiez les réglages de télémétrie à l’installation et n’ouvrez le port d’écoute que sur votre réseau local. Un modèle local mal configuré et accessible depuis l’extérieur est moins sûr qu’un service cloud sérieux.
Quel modèle choisir pour du français professionnel ?
Les modèles européens et les grands modèles ouverts multilingues récents donnent les meilleurs résultats en français, nettement devant les modèles anglophones de taille équivalente. Testez-en trois sur vos propres textes avant de vous fixer : l’écart entre deux modèles de même taille est plus grand que l’écart entre deux quantifications du même modèle.
Combien de temps une machine dédiée reste-t-elle pertinente ?
Comptez trois à quatre ans. La quantité de mémoire, elle, ne se dégrade pas : une machine à 32 Go achetée aujourd’hui fera tourner les modèles de sa catégorie pendant toute cette période, et probablement mieux, puisque les modèles de taille équivalente gagnent en qualité à chaque génération.