Tu veux utiliser Qwen avec Hermes sur ton ordinateur, mais les noms se ressemblent et les fichiers pèsent parfois plusieurs dizaines de gigaoctets. Par où commencer ?
Le plus utile est de retenir un premier candidat, vérifier qu’il laisse de la place à ta machine, puis lui confier une tâche dont tu peux contrôler la réponse. Tu pourras ensuite décider de le garder ou d’en essayer un autre.
Ce parcours t’aide à faire ce choix. Les références de modèles ont été revérifiées le 8 novembre 2026 ; elles ne constituent pas un classement de performances mesurées par TekBrut.
Pour choisir un candidat, il suffit de connaître ton ordinateur et l’usage visé. Pour l’essayer, il faudra un moteur capable de charger le modèle et de le rendre accessible à Hermes : le tuto brancher un modèle local avec llama.cpp explique ce raccordement.
Si tu découvres encore Hermes, commence par le guide de démarrage. Aucun achat ni téléchargement de plusieurs modèles n’est nécessaire pour suivre cette page. L’exemple est fictif ; aucun essai Qwen ou Strata n’a été exécuté pour cette révision.
1. Relever la mémoire de ta machine
Note le nom de ta carte graphique, sa mémoire et la RAM de ton ordinateur. Sous Windows, le Gestionnaire des tâches, rubrique Performances, permet de retrouver ces informations. Pour une carte dédiée, relève bien la mémoire GPU dédiée, pas seulement le total incluant la mémoire partagée.
La VRAM est la mémoire de la carte graphique. La RAM est celle utilisée par le système et les applications. Sur un Mac Apple Silicon, la mémoire est unifiée : plusieurs composants partagent le même stock, qu’il ne faut donc pas compter deux fois.
Regarde ensuite ce qui reste disponible avec tes applications habituelles ouvertes. Une carte annoncée à 12 Go ne laisse pas nécessairement 12 Go au modèle.
Tu peux décrire ta situation en une phrase : « Ma carte a 12 Go de mémoire dédiée, mon PC possède 32 Go de RAM, et je veux résumer des notes courtes tout en gardant mon navigateur ouvert. »
Ces chiffres sont un exemple de fiche matériel, pas une promesse de compatibilité avec un modèle précis.
2. Garder de la place au-delà du fichier
Le nombre suivi de B indique des milliards de paramètres, les valeurs apprises par le modèle. Ce nombre ne donne pas directement sa consommation mémoire.
La quantification consiste à stocker ces valeurs avec moins de précision pour réduire leur taille. Elle peut aussi modifier la qualité des réponses. Deux fichiers du même modèle peuvent donc avoir des tailles et des comportements différents. Les mentions Q4 ou Q8 désignent des familles de quantification, pas une quantité de RAM en gigaoctets.
Enfin, le moteur a besoin de place pour travailler. Il traite un contexte : ta demande, les instructions d’Hermes, des messages précédents et éventuellement des résultats d’outils. La mémoire nécessaire dépend aussi de ce contexte et des réglages du moteur.
Le modèle ne prend pas toute la place
Cas : modèle entièrement chargé sur le GPU.
Fichier téléchargé ≠ mémoire totale nécessaire
Le schéma montre le cas simple où le modèle tient entièrement sur la carte graphique. Un moteur peut aussi répartir le travail entre GPU et CPU, en utilisant la RAM. Cela ouvre d’autres possibilités, mais change les performances : RAM et VRAM ne deviennent pas pour autant une seule mémoire interchangeable. La piste Strata, expliquée plus bas, utilise justement une organisation spécialisée.
Avant de télécharger, vérifie donc le fichier exact, la mémoire que prévoit ton moteur et l’espace disque nécessaire. La taille du téléchargement est un premier repère ; elle ne suffit pas à garantir que l’essai sera confortable.
3. Choisir un premier candidat
Les générations récentes ne remplacent pas toutes les tailles en même temps. Dans la sélection ci-dessous, les petits modèles restent des Qwen3.5, le candidat dense de 27B passe à Qwen3.8, et le 35B-A3B à Qwen3.6.
| Ton point de départ | Candidat à examiner |
|---|---|
| Peu de mémoire, découverte sur des textes courts | Qwen3.5-2B ou 4B |
| De la marge au-delà du petit modèle | Qwen3.5-9B |
| Machine bien dotée, besoin de comparer un modèle plus lourd | Qwen3.8-27B ou Qwen3.6-35B-A3B |
Ce tableau sert à réduire la liste des candidats. Il ne garantit ni leur vitesse sur ta machine ni leur fiabilité avec les outils d’Hermes. Un petit modèle peut suffire pour une reformulation courte et échouer sur une tâche demandant plusieurs actions. Le 0.8B peut servir à une découverte très légère ; je ne le retiendrais pas comme point de départ d’un travail agentique exigeant.
Sur une carte de 12 Go, commencer par examiner un 4B ou un 9B quantifié est une piste raisonnable. Sur une carte de 24 Go, un 27B ou un 35B quantifié mérite d’être étudié. Dans les deux cas, le fichier retenu, le contexte et la mémoire réellement libre décident de la faisabilité ; ce ne sont pas des seuils universels.
Qwen3.6-35B-A3B utilise une architecture à experts : seule une partie des paramètres intervient pour chaque élément de texte produit. Les « 3B actifs » ne signifient pas que le modèle entier occupe la mémoire d’un modèle 3B. Les autres experts doivent rester accessibles au moteur.
Le 27B et le 35B-A3B sont donc deux candidats à comparer, pas deux marches d’un classement automatique.
Si un Qwen3.5 ou 3.6 fonctionne déjà bien chez toi, sa génération ne suffit pas à justifier un remplacement. Garde-le comme référence et ne change que pour répondre à un besoin observable.
4. Vérifier le fichier et le raccordement
Avant de lancer un téléchargement, retrouve la fiche du modèle exact et le format accepté par ton moteur. Pour llama.cpp, on utilise un fichier GGUF compatible. Les poids proposés sur la fiche officielle dans un autre format ne se chargent pas forcément directement dans ce moteur.
Vérifie aussi la provenance de la quantification. Un fichier converti par un tiers reste distinct des poids publiés par Qwen. Choisis une variante préparée pour dialoguer, plutôt qu’une variante Base, destinée à d’autres usages d’entraînement.
Le tuto llama.cpp et Hermes prend ensuite le relais pour le serveur et la connexion. Utilise les indications propres au modèle pour le moteur, le format de conversation et les appels d’outils : réussir à charger le fichier ne prouve pas que toute cette chaîne est correctement réglée.
Tu connais le nom complet du modèle, le fichier et sa quantification, le moteur utilisé et le contexte configuré. Le serveur a terminé son chargement, et Hermes reçoit une réponse de ce serveur.
Si la connexion échoue, règle ce problème avant de comparer la qualité des modèles.
5. Essayer une tâche que tu peux vérifier
Ouvre une nouvelle conversation avec le modèle choisi. Cette première demande porte uniquement sur le texte fourni ; elle ne vérifie pas encore les appels d’outils.
Lis cette note fictive et réponds en quatre lignes : date, état de la salle, condition avant l’envoi du message, durée. N’ajoute aucune information. Si la durée n’est pas fixée, écris « durée non précisée ».
Note : l’atelier Silex est prévu vendredi à 17 h. La salle est réservée. Le message aux participants doit être envoyé seulement après confirmation du nombre de places. La durée n’a pas encore été décidée.
Tu dois retrouver vendredi à 17 h, une salle réservée, l’envoi conditionné à la confirmation des places et une durée non précisée. L’essentiel est la fidélité aux faits ; les formulations peuvent varier.
Observe également le délai avant la réponse complète et le comportement de ta machine. Tu peux noter approximativement le temps écoulé, sans le présenter comme un benchmark. Le mode de raisonnement du modèle peut allonger l’attente : conserve ce réglage dans tes notes pour comprendre une future comparaison.
Une réponse fidèle à cette note ne garantit pas qu’Hermes saura lire un fichier ou enchaîner des actions avec ce modèle. Si c’est ton besoin, poursuis avec le parcours des premiers outils et contrôle l’appel réel, son résultat puis la réponse finale.
La consigne de cet exercice ne désactive pas techniquement les outils disponibles.
6. Consigner ton choix avant de changer
Garde une courte note avec le modèle, le fichier, le moteur, le contexte, le mode de raisonnement et le résultat de l’essai. Ajoute ce qui compte pour toi : faits préservés, attente acceptable, machine encore agréable à utiliser.
| Ce que tu observes | La suite utile |
|---|---|
| Réponse fidèle et usage confortable | Garder ce candidat pour une tâche représentative |
| Mémoire saturée ou attente gênante | Examiner un fichier ou un modèle plus léger |
| Faits inventés ou condition oubliée | Refaire un essai clair, puis comparer un autre candidat si nécessaire |
| Réponse simple correcte, outil en échec | Vérifier le raccordement et le format des appels avant de conclure |
Pour comparer deux modèles, reprends la même note dans deux conversations neuves et consigne les réglages de chacun. Tu n’as pas besoin d’en essayer cinq : un candidat qui répond à ton besoin est déjà un choix utile.
Flash-Next en local avec Strata : une autre voie
Qwen3.8-Flash-Next peut aussi fonctionner sur un PC grand public avec un moteur spécialisé comme Strata. Sa taille ne doit donc pas conduire à l’écarter systématiquement.
Strata répartit le travail : une partie reste sur la carte graphique, des experts sont conservés en RAM et calculés par le processeur lorsqu’ils ne sont pas dans le cache GPU, et une grande table du modèle est consultée sur SSD. Le schéma entièrement GPU plus haut ne décrit pas ce fonctionnement.
Les compromis dépendent du fichier choisi et de l’ensemble de la machine. Une quantification plus compacte économise de la mémoire, avec une qualité à vérifier. Certains modes demandant moins de RAM sollicitent davantage le SSD et peuvent ralentir fortement. Il faut aussi prévoir la place pour les téléchargements. Le nom « Flash » ne signifie pas « petit modèle ».
La connexion à Hermes est documentée par Strata. Son guide propose une configuration et des contrôles de réponse et d’appel d’outil. Il signale également un réglage particulier pour Hermes lorsque la fenêtre de contexte est inférieure à 64K. Suis le guide de connexion Strata correspondant à ta version, avec l’adresse et le modèle réellement servis.
Cette compatibilité est documentée, mais n’a pas été testée par TekBrut dans ce parcours. C’est une option à explorer si tu acceptes ces arbitrages, sans présumer qu’elle sera plus rapide ou plus fidèle qu’un 27B sur ta machine. Commence par les mêmes contrôles : réponse simple, puis appel d’outil et résultat relu.
Pour poursuivre
Si les contraintes matérielles deviennent trop fortes, le parcours modèle local ou fournisseur externe aide à choisir où faire répondre le modèle. Tu peux garder Hermes sans imposer à ton ordinateur un modèle trop lourd pour ton usage.
Sources et repères de version
- Catalogue officiel Qwen ; fiches Qwen3.5-4B, Qwen3.5-9B, Qwen3.8-27B et Qwen3.6-35B-A3B.
- Qwen3.8-Flash-Next ; modèles et mémoire avec Strata, fonctionnement de Strata.
- Serveur llama.cpp ; configuration des modèles Hermes.
Les résultats annoncés par les projets ne remplacent pas un essai avec ton matériel, ton fichier et ta tâche.