« Un VPS sans carte graphique peut-il faire tourner un modèle de langage ? » est l'une des questions les plus posées ces deux dernières années. À la mi-2026, la réponse est claire : oui, à condition de choisir le bon modèle, la bonne quantification et la bonne charge de travail. Les petits modèles à poids ouverts ont beaucoup progressé cette année, et tirer une qualité utilisable de quelques gigaoctets de RAM n'a plus rien d'exceptionnel.

Modèles à considérer sur du matériel sans GPU

  • Gemma 4 E4B : le petit modèle à poids ouverts plus récent de Google, avec prise en charge multimodale, fonctionnant dès environ 3 Go dans le bas de la fourchette — l'option la plus intéressante aujourd'hui pour les configurations sans GPU.
  • Qwen3.5 4B : bien équilibré sur l'ensemble des tâches et solide en chinois, souvent retenu comme choix généraliste par défaut.
  • Phi-4-mini-instruct : la gamme compacte de Microsoft, explicitement pensée pour du matériel modeste et des tâches analytiques.
  • SmolLM3 3B : très petit, pour les instances les plus contraintes.
  • Llama 3.2 3B : écosystème mature et documentation abondante — un bon point de départ.

Comme repère mémoire approximatif : un modèle de classe 4B en quantification Q8 réclame environ 4,5 Go de mémoire disponible, et le Q4 ramène cela à la moitié environ. Ainsi, une instance de 8 Go constitue un point de départ confortable, 4 Go est le plancher et exige une quantification basse, tandis que les instances d'entrée de gamme à 1 Go ne sont pas réalistes pour de l'inférence locale.

Les outils qui rendent cela possible

L'inférence sur CPU repose sur llama.cpp, optimisé pour des jeux d'instructions incluant AVX, AVX2, AVX512, AMX et ARM NEON. Ollama s'appuie dessus et ajoute une gestion simple des modèles ainsi qu'une API HTTP : c'est la couche la moins pénible pour un déploiement sur VPS. Installez-le, récupérez un modèle en une commande, et pointez votre application vers un point d'accès local.

Trois points à trancher d'abord

  • L'inférence CPU est lente — adaptez la tâche : le nombre de tokens par seconde sur CPU reste loin derrière le GPU. Cela convient à des travaux asynchrones et peu concurrents — résumé, classification et étiquetage, modération de contenu, traitements par lots — pas à du dialogue en direct à forte concurrence.
  • La mémoire est une contrainte dure, pas une suggestion : si le modèle ne tient pas, il ne se charge tout simplement pas. Ajouter du swap sur une petite instance permet techniquement de le lancer, mais le débit devient inutilisable. Dimensionnez sur la mémoire réellement disponible.
  • Faites le calcul avant de vous engager : savoir si un VPS de 8 Go toujours allumé bat une API facturée au token dépend de votre volume d'appels. La vraie valeur de l'auto-hébergement tient généralement à ce que les données ne quittent jamais votre serveur, et à la prévisibilité des coûts.

Une combinaison raisonnable

La plupart des gens aboutissent à un mélange : les tâches fréquentes, peu difficiles et sensibles à la confidentialité tournent sur un petit modèle hébergé chez soi, tandis que les travaux peu fréquents mais exigeant un raisonnement solide partent vers une API cloud. La frontière des données reste intacte sans prétendre qu'un CPU peut tout faire.

SharkCloud propose des paliers de mémoire depuis l'entrée de gamme, avec des nœuds à Hong Kong, au Japon, aux États-Unis et ailleurs : vous pouvez d'abord essayer un modèle et mesurer le débit sur une petite offre, puis monter en puissance une fois la faisabilité établie — plutôt que de payer pour une puissance que vous n'avez pas validée.