Guide de décision
Choisir une famille, pas une fiche technique
Faire tourner l’IA en local, ce n’est pas acheter la carte graphique avec le plus de VRAM et espérer que le reste suive. C’est choisir une famille de machine cohérente avec ce que tu veux vraiment faire, les outils que tu comptes utiliser, et ce que tu peux supporter au quotidien.
Un modèle qui rentre, qui tourne assez vite, sur une machine qui ne transforme pas ton bureau en source de bruit et de chaleur : voilà la vraie cible.
Ce guide ne fait pas
- pas de liste exhaustive de toutes les références ;
- pas de prix figés : les offres vivent dans les guides produits maintenus ;
- pas de classement GPU sur un benchmark isolé, tokens/s compris.
Ici, on choisit une famille de machine. Pour une référence précise, suis les guides dédiés.
L’ordre TekBrut
Usage réel d’abord. Mémoire utile, friction et écosystème ensuite. La famille de machine vient en dernier, pas le GPU.
Avant le matériel : qu’est-ce que “faire de l’IA en local” veut dire pour toi ?
Avant de comparer des machines, il faut savoir ce que tu vas leur demander. “Faire de l’IA en local” peut vouloir dire discuter avec un modèle de langage, générer des images, tester de la vidéo, automatiser du code, ou adapter un modèle à un usage précis. Ces charges n’ont ni les mêmes besoins, ni la même friction.
Choisir le matériel sans cadrer l’usage, c’est le meilleur moyen de payer trop cher pour de la puissance inutile, ou de te retrouver court dès le premier vrai projet.
LLM, image, vidéo, fine-tuning : des charges très différentes
Faire tourner un modèle de langage pour discuter, coder ou résumer, c’est de l’inférence : l’usage local le plus courant, et souvent le plus accessible. Générer des images ou de la vidéo demande une autre logique : plus de calcul par requête, plus de contraintes sur la mémoire, et parfois des temps d’attente plus visibles.
Adapter ou entraîner un modèle est encore un autre monde. Ce qui suffit pour interroger un modèle ne suffit pas forcément pour le modifier. Beaucoup d’usages locaux relèvent de l’inférence ; si c’est ton cas, tu peux viser plus cohérent que les configurations les plus musclées.
Le confort visé : un modèle qui rentre, qui répond vite, ou qu’on adapte
Un modèle peut “tourner” sur une machine, mais être pénible à utiliser. La vraie question n’est pas seulement : est-ce que ça rentre ? C’est aussi : est-ce que ça répond assez vite, assez longtemps, et assez stablement pour ton usage réel ?
Quelqu’un qui pose quelques questions par jour n’a pas les mêmes besoins qu’un utilisateur qui enchaîne les requêtes dans un flux de travail. Définis ton niveau de confort avant de regarder les prix : c’est lui qui sépare la machine d’appoint de la station de travail.
Local strict, hybride ou cloud ponctuel : ce n’est pas tout ou rien
“IA locale” ne veut pas forcément dire tout faire, tout le temps, sur la même machine. Beaucoup de setups réalistes sont hybrides : le quotidien tourne en local pour la confidentialité, la maîtrise et le coût fixe ; les pics ponctuels partent dans le cloud.
Un gros traitement, un test de modèle trop lourd, une session de benchmark : ce sont parfois de mauvais prétextes pour surdimensionner toute une machine. Décider jusqu’où tu veux rester local évite d’acheter un monstre pour un usage qui n’arrive qu’une fois par mois.
La VRAM est le premier filtre, pas le seul
Sur une machine à GPU dédié, la mémoire vidéo, ou VRAM, est souvent le premier filtre pour l’IA locale. Elle limite une partie de ce qui peut tenir en mémoire pour tourner correctement. Mais elle ne dit pas “ce que vaut” une machine. Elle dit surtout ce qui peut rentrer, dans un contexte donné.
Lire la VRAM comme une note sur 20 est la première erreur à éviter.
Ce que la VRAM décide vraiment
Un modèle doit tenir en mémoire pour tourner confortablement. La VRAM fixe donc une limite haute : au-delà d’un certain point, un modèle ne rentre plus, ou doit s’appuyer sur de la mémoire plus lente, avec une expérience qui se dégrade.
Mais “la taille du modèle” n’est pas un chiffre fixe. Elle dépend de plusieurs facteurs qui se combinent :
- le modèle lui-même et son nombre de paramètres ;
- sa quantification, qui peut réduire fortement l’empreinte mémoire, avec un compromis possible sur la qualité ;
- la longueur de contexte que tu veux gérer ;
- le moteur d’inférence, qui ne gère pas toujours la mémoire de la même façon ;
- la marge système, parce qu’une machine ne se pilote pas avec la mémoire remplie à ras bord.
C’est pour ça qu’il n’existe pas de réponse universelle du type “tant de Go = tel modèle”. La même carte peut être pertinente dans un scénario et trop juste dans un autre, selon le modèle, le moteur et les réglages.
VRAM, RAM système et mémoire unifiée : trois choses différentes
On confond souvent ces trois notions, et c’est une bonne manière de se tromper d’achat.
La VRAM est la mémoire rapide dédiée au GPU. C’est le point central quand tu raisonnes sur une carte graphique dédiée.
La RAM système est la mémoire générale de la machine. Elle reste importante pour l’ensemble du système, mais elle ne remplace pas simplement la VRAM pour les charges qui s’appuient sur le GPU.
La mémoire unifiée, sur les Mac Apple Silicon et certains mini PC, fonctionne autrement : processeur, partie graphique et accélérateurs partagent un même pool mémoire. Ça change la logique de choix. On ne compare pas directement une quantité de mémoire unifiée avec la même quantité de VRAM sur un GPU dédié.
Chaque approche a sa logique. L’important est de ne pas additionner des chiffres qui ne parlent pas de la même chose.
Le piège du “plus de VRAM = mieux”
Plus de VRAM élargit ce qui peut rentrer, c’est vrai. Mais une carte très généreuse en mémoire, mal supportée par tes outils ou intégrée dans une machine déséquilibrée, ne rend pas forcément plus service.
La cohérence de l’ensemble compte plus que le chiffre de VRAM pris isolément : moteur d’inférence, écosystème logiciel, refroidissement, alimentation, bruit, place disponible, budget. Vise la mémoire dont ton usage a besoin, avec une marge raisonnable, pas le chiffre le plus haut pour le principe.
La friction réelle : chauffe, bruit, consommation et place
Une machine d’IA locale ne vit pas dans une fiche technique. Elle vit quelque part : sur ton bureau, sous la table, dans une chambre, dans un bureau fermé, parfois dans une pièce déjà chaude. Et là, la consommation, les ventilateurs, le boîtier et la chaleur rejetée deviennent aussi concrets que la VRAM.
Une grosse carte graphique peut être très puissante, mais elle impose un coût physique : alimentation solide, boîtier adapté, flux d’air sérieux, bruit en charge, chaleur dans la pièce. À l’inverse, un mini PC ou un Mac à mémoire unifiée réduit souvent cette friction quotidienne, mais accepte d’autres compromis : charge soutenue, évolutivité, débit mémoire, compatibilité logicielle.
Choisir un PC pour l’IA locale, ce n’est donc pas seulement choisir ce qui va le plus vite. C’est choisir une machine que tu peux exploiter dans tes contraintes réelles : place, bruit, chaleur, alimentation, maintenance et durée d’usage.
Chauffe : la pièce compte autant que le boîtier
Quand une machine travaille longtemps, elle ne chauffe pas seulement ses composants. Elle rejette aussi cette chaleur dans la pièce. Dans un grand bureau bien ventilé, ce n’est pas le même problème que dans une petite pièce ou un espace déjà chaud l’été.
Une tour avec gros GPU peut tenir des charges lourdes, mais elle demande un environnement qui suit. Un mini PC ou un Mac consomme généralement moins, prend moins de place et rejette moins de chaleur, mais il ne vise pas le même plafond de charge.
La bonne question n’est donc pas seulement : “est-ce que la machine peut faire tourner ce modèle ?” C’est aussi : “est-ce que je peux accepter cette chaleur à l’endroit où la machine va tourner ?”
Bruit : une machine puissante peut devenir présente
L’IA locale n’est pas toujours une petite requête de quelques secondes. Si tu enchaînes les générations, les résumés, les tests de modèles ou les traitements longs, la machine reste en charge, et les ventilateurs se font entendre.
Le bruit n’a pas le même poids selon l’endroit. Une tour dans une pièce séparée peut être acceptable. La même tour sur le bureau, à côté de ton écran, peut devenir pénible. À l’inverse, une machine compacte et sobre peut être plus agréable au quotidien, même si elle plafonne plus vite.
C’est un arbitrage classique : puissance maximale d’un côté, confort d’usage de l’autre. Les deux se défendent, mais il faut choisir en connaissance de cause.
Consommation électrique : le coût invisible de l’IA locale
Une machine d’IA locale ne consomme pas seulement quand tu l’achètes. Elle consomme chaque fois qu’elle travaille. Et toutes les familles ne jouent pas dans la même cour : un mini PC, un Mac à mémoire unifiée, une tour avec GPU haut de gamme et une station de travail n’ont pas le même impact à l’usage.
Le piège, c’est de raisonner uniquement sur le prix d’achat. Si la machine tourne souvent, longtemps, ou sert de station quotidienne, la consommation devient une vraie variable. Pas forcément un problème, mais un coût à intégrer. Une grosse carte graphique peut être cohérente si elle te fait gagner du temps ou te permet de garder certains traitements en local. Elle l’est beaucoup moins si elle reste surdimensionnée pour quelques essais par semaine.
Il ne faut pas inventer une facture mensuelle au doigt mouillé : tout dépend de la charge, de la durée d’usage, du réglage de la machine et du prix de l’électricité. Mais l’arbitrage existe. Plus tu montes en puissance locale, plus tu dois accepter une consommation, une chaleur et une alimentation en conséquence.
Alimentation et refroidissement : la chaîne doit suivre
Une grosse carte graphique n’est pas un composant isolé. Elle impose une chaîne autour d’elle : alimentation adaptée, connectique propre, espace dans le boîtier, ventilation cohérente, marge thermique.
C’est là qu’une configuration peut se déséquilibrer. Une carte très puissante dans une machine mal dimensionnée peut produire plus de contraintes que de confort. À l’inverse, une machine plus modeste mais cohérente peut rendre plus de service si elle tourne proprement, sans bruit excessif ni ajustements permanents.
L’objectif n’est pas d’acheter le composant le plus impressionnant. C’est d’acheter un ensemble qui tient.
Encombrement : toutes les machines ne se placent pas pareil
Une station avec gros GPU, plusieurs ventilateurs et un grand boîtier n’a pas le même impact qu’un mini PC posé derrière un écran. La place disponible compte : une machine dans une pièce de vie, sur un petit bureau ou près d’un espace partagé n’a pas les mêmes contraintes qu’une tour installée dans un bureau dédié.
C’est pour ça que les mini PC à mémoire unifiée et les Mac ont une vraie place dans la discussion. Ils ne gagnent pas forcément sur la puissance brute, mais ils peuvent gagner sur la simplicité, l’encombrement et le confort quotidien.
Maintenance : plus c’est puissant, plus ça se surveille
Une grosse machine demande plus d’attention : flux d’air, poussière, pilotes, stabilité en charge longue, mises à jour, parfois réglages de ventilation. Rien d’insurmontable pour un utilisateur technique, mais ce n’est pas invisible.
À l’opposé, une machine plus intégrée laisse moins de prise. C’est plus simple à vivre, mais moins évolutif. Un Mac, un mini PC ou une appliance peut réduire la maintenance, mais tu acceptes en échange moins de liberté matérielle.
Là encore, il n’y a pas de gagnant universel. Il y a une question simple : veux-tu une machine que tu peux faire évoluer et optimiser, ou une machine qui se fait oublier autant que possible ?
Les grandes familles de machines pour l’IA locale
Une fois ton usage, ta mémoire cible et ta friction acceptable cadrés, le choix devient plus clair. Il ne s’agit plus de chercher “le meilleur PC IA locale” dans l’absolu. Il s’agit de choisir la famille de machine qui colle le mieux à ton usage réel.
Chaque famille répond à un compromis différent : évolutivité, stabilité, compacité, confort, coût ou simplicité. Un PC fixe avec GPU dédié maximise la marge de manœuvre. Une station de travail vise les sessions longues et la stabilité. Un mini PC ou un Mac réduit la friction quotidienne. Le cloud évite l’achat matériel, mais déplace le coût ailleurs. Une appliance promet la simplicité, mais demande de vérifier ce qu’elle permet vraiment.
PC fixe avec GPU grand public : le choix polyvalent
Le PC fixe avec carte graphique grand public reste le choix le plus évident pour beaucoup d’usages. Tu peux l’utiliser pour l’IA locale, mais aussi pour le jeu, la création, le montage, la 3D ou le développement. C’est une machine polyvalente, évolutive, et souvent mieux documentée côté outils.
Sa force, c’est l’équilibre : tu choisis le processeur, la mémoire, l’alimentation, le boîtier, le refroidissement et la carte graphique selon ton budget. Tu peux aussi faire évoluer certaines pièces plus tard, au lieu de remplacer toute la machine.
Sa limite, c’est la friction. Plus tu montes en GPU, plus la machine demande un vrai boîtier, une alimentation cohérente, une bonne ventilation et de la place. C’est le bon format si tu veux une machine puissante et adaptable. C’est moins idéal si tu veux quelque chose de discret, compact et sans entretien.
Station de travail GPU pro : pour les sessions longues
La station de travail vise moins le meilleur rapport puissance/prix que la stabilité, la mémoire, la tenue en charge et la cohérence de l’ensemble. C’est une machine pensée pour travailler longtemps, pas seulement pour lancer quelques tests.
Elle devient intéressante si l’IA locale fait partie de ton activité : génération régulière, gros modèles, longues sessions, besoin de stabilité, machine dédiée au travail. Les cartes graphiques professionnelles peuvent aussi apporter plus de mémoire, des pilotes orientés station de travail et une meilleure cohérence pour certains usages professionnels.
La limite est simple : le prix monte vite. Une station de travail peut être très propre, mais elle devient absurde si ton usage reste ponctuel. Si tu veux comparer une approche GPU grand public et une approche GPU pro sur une station IA locale, le guide RTX 5090 ou RTX PRO 4500 détaille ce compromis.
Mini PC à mémoire unifiée : compact, sobre, mais plafonné
Les mini PC à mémoire unifiée ont une vraie place dans l’IA locale. Ils ne cherchent pas à battre une grosse carte graphique sur la puissance brute. Leur intérêt est ailleurs : format compact, consommation plus contenue, faible encombrement, intégration simple, bruit souvent mieux maîtrisé.
Pour de l’inférence sobre, de l’expérimentation, du travail quotidien avec des modèles raisonnables ou une machine discrète dans une pièce de vie, c’est une option cohérente. Tu gagnes en simplicité et en confort.
La contrepartie, c’est le plafond. La mémoire est partagée, le débit n’est pas celui d’un gros GPU dédié, l’évolutivité est limitée, et les charges très lourdes finissent par rappeler que le format compact a un prix. Pour un exemple concret de ce type d’approche, le guide mini PC IA locale est la sortie naturelle.
Mac / Apple Silicon : confortable si ton écosystème suit
Les Mac Apple Silicon combinent mémoire unifiée, efficacité énergétique, faible bruit, bon confort général et intégration logicielle propre. Pour quelqu’un qui travaille déjà sur Mac, c’est une option sérieuse à considérer.
Leur force, c’est la machine quotidienne : discrète dans beaucoup de situations, agréable à utiliser, efficace, facile à intégrer dans un flux de travail créatif ou dev. L’écosystème MLX rend aussi certains usages IA locale plus accessibles côté Apple.
La limite, c’est l’écosystème. Beaucoup d’outils IA restent pensés d’abord pour CUDA. Certains flux de travail passent très bien sur Mac, d’autres moins. Avant d’acheter un Mac pour l’IA locale, il faut vérifier les modèles, les moteurs d’inférence et les outils que tu comptes vraiment utiliser.
Machines IA clé en main : simple sur le papier, à vérifier dans le réel
Les machines IA clé en main et appliances promettent une chose séduisante : moins de choix techniques, moins de montage, moins de configuration, une machine prête à l’emploi. Pour une PME, un indépendant ou une équipe qui ne veut pas construire une station à la main, l’idée peut avoir du sens.
Mais c’est aussi la famille où il faut garder le plus de sang-froid. Une machine “IA” n’est pas automatiquement une bonne machine IA locale. Il faut vérifier ce qu’elle embarque vraiment, quels modèles elle vise, quel écosystème elle supporte, si elle est disponible, évolutive, maintenable, et si son prix correspond à un service réel ou à une belle vitrine.
Cette famille peut être pertinente si le support, la simplicité et l’intégration valent plus que la liberté de configuration. Elle l’est beaucoup moins si tu paies surtout une étiquette “IA” collée sur une fiche technique floue.
Cloud / hybride : ne pas tout acheter tout de suite
Le cloud n’est pas l’opposé de l’IA locale. C’est parfois son complément intelligent. Tu peux garder une machine locale pour le quotidien, la confidentialité, les petits modèles et les usages réguliers, puis utiliser le cloud pour les pics : gros test, modèle trop lourd, benchmark, traitement ponctuel.
C’est souvent plus rationnel que d’acheter une machine énorme pour un besoin rare. Le cloud déplace la friction : tu n’as pas la chaleur, le bruit, l’encombrement ou l’alimentation chez toi. En échange, tu acceptes un coût récurrent, une dépendance au fournisseur, une connexion réseau, et parfois des questions de confidentialité.
La bonne question n’est donc pas “local ou cloud ?” mais “qu’est-ce qui doit rester local, et qu’est-ce qui peut partir ponctuellement ailleurs ?” Pour beaucoup d’usages, le modèle le plus réaliste n’est pas pur. Il est hybride.
Tableau rapide des familles
| Famille | À choisir si | Friction | Limite principale |
|---|---|---|---|
| PC GPU grand public | tu veux une machine polyvalente et évolutive | moyenne à élevée | bruit, chaleur, boîtier, alimentation |
| Station GPU pro | l’IA locale sert à travailler longtemps | élevée | budget, coût total, encombrement |
| Mini PC mémoire unifiée | tu veux du compact et du sobre | faible à moyenne | plafond de charge et évolutivité |
| Mac Apple Silicon | tu es déjà dans l’écosystème Apple | faible à moyenne | compatibilité des outils CUDA-first |
| Machine IA clé en main | tu veux du support et moins de configuration | variable | promesse réelle à vérifier |
| Cloud / hybride | tes gros besoins sont ponctuels | faible localement | coût récurrent et dépendance réseau |
CUDA, ROCm, Metal/MLX : l’écosystème compte autant que la puissance
Une machine peut avoir beaucoup de mémoire, un bon refroidissement et une fiche technique propre. Si les outils que tu veux utiliser ne tournent pas bien dessus, elle devient vite frustrante.
C’est le piège classique de l’IA locale : on regarde le matériel, puis on découvre la pile logicielle après l’achat. Mauvais ordre. Pour choisir proprement, il faut regarder les deux en même temps : ce que la machine peut faire et ce que ton écosystème logiciel sait vraiment exploiter.
CUDA, ROCm, Metal/MLX ou même Vulkan ne sont pas de simples détails techniques. Ce sont des chemins différents pour faire travailler la machine. Certains sont plus simples, d’autres plus ouverts, d’autres plus récents ou plus dépendants des versions. Le bon choix dépend de ton usage, de ton niveau technique, et de ta tolérance à la friction.
CUDA : le chemin de moindre friction
CUDA reste aujourd’hui le chemin le plus simple pour beaucoup d’usages IA locale. La majorité des outils, tutoriels, dépôts GitHub, extensions et frameworks IA sont d’abord pensés ou testés sur NVIDIA. Ce n’est pas seulement une question de performance brute : c’est une question d’écosystème.
Si tu veux tester rapidement des modèles, suivre des tutos, utiliser des outils récents, lancer ComfyUI, faire tourner des scripts PyTorch, essayer des moteurs d’inférence ou bricoler avec des projets publiés la veille, CUDA reste souvent le terrain le plus confortable.
La limite, c’est le coût d’entrée. Les cartes NVIDIA avec beaucoup de mémoire peuvent vite devenir chères, et certaines configurations imposent une vraie friction : alimentation, chaleur, bruit, boîtier, place. CUDA simplifie la pile logicielle, mais ne supprime pas les contraintes matérielles.
Le bon résumé : si tu veux réduire les risques de compatibilité, NVIDIA reste le choix le plus évident. Si tu veux optimiser le coût, la mémoire ou explorer AMD, il faut regarder ROCm avec plus de précision.
ROCm : AMD devient crédible, mais reste à vérifier machine par machine
ROCm est l’écosystème AMD pour le calcul GPU et l’IA locale. Il a beaucoup progressé, avec des mises à jour fréquentes et un effort clair sur les charges d’inférence, surtout côté AMD Instinct en cloud ou serveur. C’est une voie à prendre au sérieux, pas une option à écarter par réflexe.
Mais ROCm ne se juge pas en bloc. L’expérience dépend du GPU, de la version ROCm, du système, du moteur d’inférence, du framework et parfois du backend utilisé. Une carte AMD récente peut être intéressante pour de l’inférence locale avec llama.cpp, Ollama, LM Studio ou ComfyUI, mais ce n’est pas la même promesse qu’une machine CUDA où beaucoup de nouveaux outils sont pensés d’abord pour NVIDIA.
Côté Windows, la situation progresse aussi : AMD documente désormais une édition PyTorch Windows avec composants ROCm 7.2.1, et ComfyUI Desktop a commencé à intégrer le support ROCm Windows à partir de la version 0.7.0. Mais il ne faut pas lire ça comme un support complet de toute la pile ROCm sous Windows : la compatibilité reste à vérifier selon le GPU, le moteur et l’usage.
Il faut aussi distinguer ROCm et les autres chemins possibles sur AMD. Certains outils peuvent utiliser Vulkan plutôt que ROCm, parfois avec une installation plus simple, parfois avec des performances ou des limites différentes. Dire “ça marche sur AMD” ne suffit donc pas : il faut savoir par quel backend, sur quel GPU, avec quel moteur et dans quel usage.
La bonne question n’est pas “AMD marche ou ne marche pas”. C’est : est-ce que cette chaîne précise fonctionne pour mon usage, avec ce GPU, cette version de ROCm et ces outils ? CUDA reste le chemin de moindre friction. ROCm devient une alternative crédible si tu acceptes de vérifier la compatibilité au moment de l’achat ou de l’installation.
Metal et MLX : confortable sur Mac, mais différent de CUDA
Sur Mac Apple Silicon, la logique est encore différente. On ne raisonne pas comme avec une carte graphique dédiée NVIDIA ou AMD. La machine repose sur une mémoire unifiée, une intégration matérielle forte et des outils qui passent par Metal, MLX ou des moteurs compatibles avec l’écosystème Apple.
Le point fort, c’est le confort. Pour certains usages locaux, un Mac récent peut être très agréable : peu de bruit dans beaucoup de situations, bonne efficacité, machine quotidienne solide, environnement stable, intégration propre dans un flux de travail créatif ou dev.
Mais ce n’est pas CUDA. Certains outils IA passent très bien, d’autres moins. Certains projets auront une version compatible Apple propre, d’autres demanderont des contournements, ou resteront plus simples à utiliser sur NVIDIA. Avant d’acheter un Mac pour l’IA locale, il faut vérifier les modèles, les moteurs et les outils que tu comptes vraiment utiliser.
Le bon angle n’est donc pas “Mac contre PC”. C’est : est-ce que ton flux de travail correspond à l’écosystème Apple ? Si oui, la machine peut être très cohérente. Si ton usage dépend de scripts CUDA-first ou de projets expérimentaux, elle peut devenir plus limitée que sa fiche technique ne le laisse penser.
Le vrai critère : la chaîne complète
Le matériel seul ne suffit pas. Il faut regarder la chaîne complète :
- le type de machine ;
- la mémoire disponible ;
- le GPU ou l’accélérateur ;
- le système ;
- le moteur d’inférence ;
- le framework ;
- le modèle visé ;
- ton niveau technique.
Une machine cohérente, ce n’est pas celle qui gagne tous les tableaux de specs. C’est celle dont la chaîne tient de bout en bout. Le GPU, la mémoire, le bruit, la chaleur, le système et les outils doivent raconter la même décision.
Tableau rapide des écosystèmes
| Écosystème | Force | Vigilance |
|---|---|---|
| CUDA | compatibilité maximale avec les outils IA | coût GPU et friction matérielle |
| ROCm | voie AMD crédible, en évolution rapide | vérifier GPU, version, backend et moteur |
| Metal / MLX | confort sur Mac Apple Silicon | différent de CUDA, outils variables |
| Vulkan | chemin utile sur certains outils AMD | performances et limites selon backend |
Quelle famille choisir selon ton cas ?
Tu as cadré ton usage, ta mémoire cible, ta friction acceptable et ton écosystème. Voici les cas les plus fréquents, et la famille de machine qui correspond le mieux. Beaucoup de lecteurs seront entre deux profils, c’est normal : l’important est de repérer ton arbitrage dominant.
Tu débutes ou tu veux rester raisonnable. Vise un mini PC à mémoire unifiée ou un PC fixe avec GPU grand public adapté à ton usage. Accepte un plafond de charge plus bas : tu fais de l’inférence sobre, pas de l’entraînement lourd. → mini PC IA locale
Tu veux une seule machine pour tout : IA, jeu, création, dev. Vise un PC fixe avec GPU grand public solide. Accepte la friction qui monte avec la puissance : alimentation, boîtier, bruit, chaleur. C’est le prix de la polyvalence.
L’IA locale fait partie de ton travail : sessions longues, gros modèles, stabilité. Vise une station de travail avec GPU pro. Accepte que le prix grimpe vite : c’est cohérent si la machine produit, beaucoup moins si elle sert deux fois par semaine. → RTX 5090 ou RTX PRO 4500
Tu es déjà sur Mac, ou tu veux une machine discrète dans une pièce de vie. Vise un Mac Apple Silicon ou un mini PC à mémoire unifiée. Accepte la dépendance à l’écosystème : vérifie d’abord que tes modèles, moteurs et outils tournent correctement dessus.
Ton besoin lourd est rare ou ponctuel. Ne surdimensionne pas toute ta machine pour un pic mensuel. Garde une base locale cohérente et utilise le cloud pour les gros tests, les modèles trop lourds ou les benchmarks. Accepte le coût récurrent et la dépendance réseau.
Tu veux du prêt-à-l’emploi, sans montage ni configuration lourde. Regarde les machines IA clé en main, mais garde le sang-froid : vérifie ce qu’elles embarquent vraiment, leur disponibilité, leur support et leur écosystème. L’étiquette “IA” ne suffit pas à faire une bonne machine IA locale.
Carte TekBrut
Choisir une famille de machine IA locale
Pas un classement. Une carte pour repérer la famille cohérente avec ton usage, ta friction acceptable et tes outils.
Mini PC mémoire unifiée
IA locale sobre, machine compacte, pièce de vie.
- Friction
- faible à moyenne
- À vérifier
- outils compatibles mémoire unifiée
- Limite
- plafond de charge et évolutivité
Mac Apple Silicon
Workflow Mac, création, dev, machine quotidienne.
- Friction
- faible à moyenne
- Écosystème
- Metal / MLX
- Limite
- outils CUDA-first à vérifier
PC GPU grand public
IA, jeu, création et dev sur une seule machine.
- Friction
- moyenne à élevée
- Écosystème
- CUDA ou ROCm selon GPU
- Limite
- bruit, chaleur, alimentation
Station GPU pro
Sessions longues, stabilité, gros usages locaux.
- Friction
- élevée
- Écosystème
- CUDA surtout, ROCm selon plateforme
- Limite
- budget et contraintes physiques
Machine IA clé en main
Moins de montage, support, solution prête.
- Friction
- variable
- Écosystème
- à vérifier avant achat
- Limite
- promesse commerciale parfois floue
Cloud / hybride
Pics ponctuels, gros tests, benchmarks.
- Friction
- faible localement
- Écosystème
- selon instance choisie
- Limite
- coût récurrent, réseau, données externes
Les pièges classiques de l’achat “IA locale”
Le marché de l’IA locale est jeune, et donc plein de raccourcis vendeurs. Voici les erreurs qui reviennent le plus souvent : celles qui font payer cher une machine qui déçoit.
Le piège de la VRAM brute. “Beaucoup de VRAM, donc c’est bon pour l’IA.” Non. La VRAM fixe ce qui peut rentrer, pas ce qui tourne bien. Une carte très généreuse en mémoire, mal exploitée par tes outils, rend moins service qu’une machine plus cohérente. Le chiffre seul ne décide rien.
L’étiquette “IA” collée sur une fiche floue. De plus en plus de machines sont vendues “IA-ready” ou “AI PC”. Le label ne garantit rien. Regarde ce qu’il y a derrière : mémoire réelle, écosystème supporté, disponibilité, modèles visés. Une étiquette n’a jamais fait tourner un modèle.
Le benchmark sorti de son contexte. “X tokens/seconde” ne veut rien dire sans le modèle, la quantification, la longueur de contexte et le moteur utilisés. Un chiffre de performance sans ses conditions est du marketing, pas une mesure. Méfie-toi des comparatifs qui brandissent un nombre sans dire comment il a été obtenu.
Acheter la puissance avant de connaître son usage. C’est l’erreur mère. Une station à gros GPU pour poser trois questions par jour, c’est de l’argent, du bruit et de la chaleur gaspillés. Cadre ton usage d’abord, choisis la machine ensuite, jamais l’inverse.
Oublier la friction jusqu’à la livraison. La fiche technique ne mentionne ni le bruit en charge, ni la chaleur dans la pièce, ni l’alimentation à prévoir, ni la place qu’il faut. Ces coûts physiques sont réels et quotidiens. Une machine puissante mais invivable finit débranchée.
Croire que “ça marche sur AMD” suffit. AMD devient crédible pour l’IA locale, mais pas en bloc. “Ça marche” dépend du GPU, de la version de ROCm, du backend, du moteur et de l’usage. Vérifie ta chaîne précise avant d’acheter, pas après.
Questions fréquentes
Quel PC faut-il pour faire tourner un LLM en local ?
Ça dépend du modèle visé, de sa quantification et du confort attendu. Pour débuter, un mini PC à mémoire unifiée ou un PC fixe avec GPU grand public peut suffire. Pour des modèles plus lourds ou des sessions longues, une station de travail avec plus de mémoire peut devenir pertinente. La bonne question n’est pas “le PC le plus puissant”, mais “la famille de machine cohérente avec mon usage”.
Combien de VRAM faut-il pour l’IA locale ?
Il n’y a pas de chiffre magique. La VRAM nécessaire dépend du modèle, de sa quantification, de la longueur de contexte et des outils autour. Plus de VRAM élargit ce qui peut rentrer, mais une configuration cohérente compte plus qu’un chiffre brut pris isolément.
Faut-il forcément une carte NVIDIA pour l’IA locale ?
NVIDIA et CUDA restent aujourd’hui la voie la mieux supportée par la plupart des outils et moteurs d’inférence : le chemin de moindre friction. AMD avec ROCm est devenu une alternative crédible, mais sa compatibilité dépend du GPU, de la version de ROCm, du backend, du moteur et de l’usage. Apple Silicon via Metal/MLX est une autre voie, surtout si tu travailles déjà sur Mac.
ROCm vaut-il le coup face à CUDA pour l’IA locale ?
ROCm a nettement progressé et devient une voie sérieuse, notamment pour l’inférence sur des outils stabilisés, et la situation s’améliore même côté Windows. Mais il ne se juge pas en bloc : tout dépend de ta chaîne précise, GPU, version de ROCm, backend, moteur. CUDA reste le chemin de moindre friction ; ROCm devient crédible si tu acceptes de vérifier la compatibilité avant d’acheter. Les futurs tests Lab TekBrut serviront à mesurer ce qui marche réellement, avec quelles versions et dans quelles conditions.
Un mini PC suffit-il pour l’IA locale ?
Pour beaucoup d’usages d’inférence sobres, il peut suffire. Les mini PC à mémoire unifiée offrent un bon compromis encombrement, consommation et bruit. Leur limite est le débit mémoire et le plafond de charge sur les modèles les plus lourds.
Vaut-il mieux acheter une machine ou passer par le cloud ?
Le cloud évite l’achat et absorbe les grosses charges ponctuelles, au prix d’un coût récurrent et de données qui sortent de chez soi. Une machine locale a un coût fixe mais garde tout en interne. L’hybride, local au quotidien et cloud pour les pics, est souvent le plus réaliste.
Une grosse machine IA, c’est bruyant et ça chauffe ?
En session soutenue, une machine avec gros GPU peut consommer, chauffer et faire monter les ventilateurs. La chaleur se ressent dans la pièce, surtout dans un petit espace. C’est un vrai critère si la machine vit sur le bureau ou tourne longtemps. Les mini PC à mémoire unifiée et les Mac réduisent souvent cette friction, avec d’autres limites en contrepartie.
Le verdict TekBrut
Il n’existe pas de “meilleur PC pour l’IA locale” dans l’absolu. Il existe une machine cohérente avec ton usage, ta friction acceptable et l’écosystème que tes outils savent exploiter. C’est ce que les fiches techniques, les benchmarks isolés et les étiquettes “IA” ne disent presque jamais.
Retiens l’ordre : d’abord l’usage, ensuite la mémoire et la friction, enfin l’écosystème. Le GPU vient à la fin du raisonnement, pas au début. Une machine qui gagne tous les tableaux de specs mais que tu ne peux pas vivre, ou que tes outils n’exploitent pas correctement, reste un mauvais achat.
Quand tu as repéré ta famille, descends dans le concret : le guide mini PC IA locale pour une approche compacte et sobre, le guide RTX 5090 ou RTX PRO 4500 pour arbitrer GPU grand public contre GPU pro sur une station. Et garde un œil sur le Lab TekBrut : c’est là qu’on mesurera, pièce par pièce, ce qui tient vraiment ses promesses.