Table of Contents
Il y a encore deux ans, « l’IA en propre » signifiait pour la plupart des entreprises une seule chose : un abonnement à ChatGPT ou Copilot. Aujourd’hui, de plus en plus d’organisations arrivent à un point où le cloud ne suffit plus. Les raisons sont généralement au nombre de trois : des coûts qui augmentent avec le nombre de requêtes, des données qui ne peuvent pas quitter l’entreprise, et la nécessité de faire fonctionner l’IA sur ses propres documents, bases de données et processus, plutôt que sur les connaissances générales d’Internet.
La question se pose alors : quel serveur IA acheter et combien cela coûte-t-il réellement ?
La réponse est plus intéressante qu’il n’y paraît, car l’écart de prix est considérable : d’un appareil de la taille d’un livre à un peu plus de vingt mille zlotys à une machine coûtant plus de deux millions. Et surtout, chacune de ces solutions a du sens, mais pour un profil différent. Ci-dessous, je présente trois niveaux d’investissement, le calcul à effectuer avant de prendre une décision, ainsi que cinq questions pour choisir le matériel adapté sans surdimensionner ni sous-dimensionner l’infrastructure.
En quoi un serveur IA diffère-t-il d’un serveur classique ?
Un serveur classique est conçu autour du processeur. Un serveur IA est conçu autour des GPU : ce sont eux qui effectuent tout le travail sur les modèles, tandis que le reste du matériel sert à les prendre en charge. Cela entraîne trois différences concrètes.
- GPU et leur mémoire. Une telle machine intègre de quatre à huit accélérateurs, le plus souvent sous forme de cartes PCIe dans les serveurs rack, et sous forme de modules soudés sur une carte commune dans les plateformes les plus puissantes. Leur mémoire totale est le paramètre le plus important de tout l’achat ; nous y reviendrons dans un instant.
- Électricité. Huit cartes en charge consomment 5–6 kW, soit autant que plusieurs dizaines d’ordinateurs de bureau. Cela nécessite une armoire correctement alimentée et une évacuation efficace de la chaleur de la salle serveur.
- Réseau. Pour une seule machine, un réseau rapide standard suffit. Lorsque plusieurs serveurs sont regroupés en un seul système, des liaisons bien plus rapides sont nécessaires, car les GPU installés dans différents châssis doivent échanger des données avec une latence comparable à celle d’un fonctionnement dans un même châssis.
Il ne s’agit donc pas simplement d’un « serveur plus puissant ». C’est une catégorie de matériel différente, choisie selon d’autres critères.
La mémoire GPU : le chiffre qui structure tout le choix
Un paramètre est plus important que le prix : la quantité totale de mémoire des GPU du serveur.
Pourquoi ? Le modèle doit tenir entièrement dans cette mémoire, comme un fichier qui doit être chargé dans un programme pour pouvoir être utilisé. S’il ne tient pas, il ne démarrera tout simplement pas.
Mais le modèle lui-même n’est que le début du calcul. Chaque utilisateur connecté et chaque document analysé occupent de la mémoire supplémentaire pour la conversation en cours. Un même modèle destiné à cent personnes a donc besoin de nettement plus d’espace que pour une seule personne ; c’est précisément le nombre d’utilisateurs, et non la seule taille du modèle, qui détermine le plus souvent le niveau de matériel requis.
Le guide présente les besoins mémoire de base des modèles Quel ordinateur choisir pour l’IA. Le tableau ci-dessous montre le deuxième axe de ce calcul, c’est-à-dire l’évolution des besoins selon l’échelle du déploiement. Les valeurs sont indicatives et concernent une configuration de production typique.
| Taille du modèle | 5 utilisateurs | 50 utilisateurs | 200 utilisateurs | Niveau de matériel |
|---|---|---|---|---|
| petit (classe 8B) | env. 8 GB | env. 20 GB | env. 50 GB | DGX Spark |
| moyen (classe 70B) | env. 45 GB | env. 70 GB | env. 130 GB | serveur rack, 1–2 cartes |
| grand (classe 200B+) | env. 130 GB | env. 200 GB | env. 350 GB | serveur avec huit cartes |
| entraînement de son propre modèle | plusieurs fois plus que le simple déploiement | – | – | plateforme HGX B200 |
Des désignations telles que 8B ou 70B indiquent le nombre de milliards de paramètres qui composent le modèle : 8B correspond à huit milliards. Plus le nombre de paramètres est élevé, meilleure est la qualité des réponses et plus le modèle occupe de mémoire GPU.
Il y a aussi un point facile à oublier.
La marge. Les chiffres ci-dessus correspondent à un fonctionnement normal. En période de pointe, il est conseillé d’ajouter une marge de 20–30 %, faute de quoi le système commencera à rejeter des requêtes lorsque le trafic augmentera.
Niveau 1 : NVIDIA DGX Spark, le point de départ
NVIDIA DGX Spark est un appareil de bureau de la taille d’un livre, doté de 128 GB de mémoire unifiée et d’une puissance de calcul d’environ 1 pétaFLOP pour les tâches d’IA. Il permet d’exécuter localement des modèles de la classe de ceux qui alimentent les assistants populaires, sans envoyer le moindre document dans le cloud. Plusieurs versions sont disponibles ; elles se distinguent principalement par la capacité de stockage (1, 2 ou 4 TB) et le niveau de support. Vous trouverez l’offre complète de cette catégorie de matériel, avec des modèles de huit fabricants, dans la catégorie des ordinateurs et stations de travail pour l’IA.
Pour qui ? Pour l’entreprise qui souhaite d’abord vérifier si l’IA peut améliorer le service client, l’analyse des contrats ou la préparation des offres, avant que quiconque ne valide un budget important. L’investissement se situe autour de 5 524,23 € HT, soit moins qu’un abonnement annuel à des outils d’IA pour une équipe d’une quinzaine de personnes. Deux appareils peuvent être réunis en un seul système.
Limitation. Ce matériel est destiné à une seule équipe, et non à toute l’organisation. Il ne peut pas être installé dans une baie rack, ne dispose pas d’alimentation redondante et ne peut pas être couvert par la politique de maintenance appliquée en salle serveur. Lorsque cent personnes doivent utiliser l’IA simultanément, il faut passer au niveau supérieur.
Niveau 2 : serveur GPU en baie rack, l’IA de production pour l’entreprise
C’est, à mon avis, le niveau le plus souvent négligé aujourd’hui, alors qu’il constitue le choix le plus judicieux pour une entreprise ayant un véritable usage de l’IA.
Il s’agit d’une plateforme GPU dédiée en baie rack (5U), conçue pour accueillir huit cartes double largeur. Elle n’est pas liée à un modèle d’accélérateur spécifique : le choix des cartes dépend du cas d’usage. La configuration de base comprend deux processeurs AMD EPYC, jusqu’à 6 TB de mémoire DDR5 répartie sur 24 slots, ainsi que six alimentations 2700 W fonctionnant en redondance.
Le nombre de cartes est déterminant, car il définit la capacité de mémoire GPU. Deux cartes RTX PRO 6000 de 96 GB chacune fournissent 192 GB et permettent de prendre en charge un assistant interne pour რამდენიმე dizaines de personnes. Une configuration complète de huit cartes atteint 768 GB, ce qui convient à plusieurs centaines d’utilisateurs ou à de très grands modèles. Des cartes supplémentaires peuvent être ajoutées dans le même châssis, sans remplacer le serveur : c’est le principal avantage de ce niveau, car il n’est pas nécessaire de démarrer avec une configuration complète.
Modèle précis : Supermicro AS-5126GS-TNRT Gold Series
Vendu comme système complet et configuré. Budget indicatif pour la configuration de départ avec deux cartes : env. 115 088,04 € HT. Consultez la fiche produit pour connaître la configuration exacte et le prix actuel.
Concrètement, qu’est-ce que cela permet ? Un tel serveur peut exécuter localement de grands modèles de langage, analyser les archives documentaires de l’entreprise, automatiser le service client, générer du contenu dans plusieurs langues ou analyser les images issues d’une ligne de production. Les cartes RTX PRO sont également polyvalentes : ce même serveur peut servir au rendu, aux simulations d’ingénierie ou à la virtualisation de postes de travail. C’est un argument souvent décisif : le matériel ne reste pas inutilisé entre deux projets d’IA.
Pour qui ? Dans sa configuration initiale : pour une entreprise de quelques dizaines de collaborateurs ayant déjà passé la phase de test et souhaitant donner à ses équipes accès à un assistant interne connaissant les procédures de l’entreprise. En configuration complète : pour les grandes organisations, des centaines d’utilisateurs simultanés et les secteurs réglementés tels que la finance, la santé ou le secteur public, où les données doivent rester sur site.
À retenir. La consommation électrique augmente avec le nombre de cartes : d’environ 2 kW avec deux cartes à 5–6 kW avec huit. La baie doit pouvoir fournir cette puissance et le système de refroidissement doit évacuer la chaleur. Si vous prévoyez une extension, dimensionnez dès le départ l’alimentation électrique et la climatisation pour la configuration cible, et non pour la configuration initiale.
Niveau 3 : NVIDIA HGX B200, l’infrastructure utilisée pour entraîner les modèles
Au sommet se trouve le matériel dont il est question dans les articles sur la course technologique entre les plus grandes entreprises mondiales. Un serveur reposant sur la plateforme NVIDIA HGX B200 embarque huit puces Blackwell, les accélérateurs d’IA actuellement les plus puissants du marché, totalisant 1,44 TB de mémoire HBM3e — la plus rapide disponible aujourd’hui.
La machine occupe 10U dans la baie et dispose de huit interfaces réseau 400 Gb/s, car elle est conçue pour être regroupée en cluster avec d’autres serveurs identiques. L’alimentation repose sur six blocs d’alimentation d’environ 5 kW, fonctionnant de manière redondante selon une architecture 3+3 : la consommation réelle de la machine en charge est d’environ 10 kW, le reste constituant une réserve et une protection en cas de panne. Elle comprend un processeur BlueField-3, qui décharge le système principal des tâches réseau et de sécurité, ainsi qu’un support de trois ans avec intervention sur site le jour ouvré suivant.
Modèle précis : Supermicro AS-A126GS-TNBR
Destiné au calcul scientifique, à l’IA, à l’automatisation industrielle et à l’analyse de données. Budget indicatif : env. 460 352,28 € HT par serveur ; consultez la fiche produit pour le prix actuel.
La différence par rapport au serveur GPU de niveau deux ne réside pas dans le fait que B200 « fait la même chose, mais plus vite ». Il permet d’effectuer des tâches que l’autre ne peut pas réaliser dans un délai raisonnable : entraîner ses propres modèles à partir de zéro, affiner des modèles comptant des centaines de milliards de paramètres, prendre en charge des centaines d’utilisateurs simultanément, mener des recherches scientifiques ou des simulations à l’échelle industrielle.
Pour qui ? Pour les entreprises qui développent des produits basés sur l’IA et ne se contentent pas de modèles prêts à l’emploi, mais créent les leurs. Pour les instituts de recherche et les établissements d’enseignement supérieur. Pour les opérateurs de télécommunications, les banques, les grands groupes industriels et les entreprises pharmaceutiques.
En pratique, une seule machine de ce type est rarement achetée. Il faut également prévoir l’infrastructure réseau, l’alimentation électrique et le refroidissement de la salle serveur ; avec 10 kW par châssis, le refroidissement liquide est généralement nécessaire. Il ne s’agit pas d’un simple achat de matériel, mais d’une décision stratégique.
Comment choisir un serveur pour l’IA ? Cinq questions à se poser
Savez-vous déjà ce que l’IA doit faire dans votre entreprise ?
Si ce n’est pas le cas, choisissez le niveau un. Pour le prix d’un ordinateur portable haut de gamme, vous obtenez un environnement qui vous permet de tester plusieurs idées en deux semaines et de prendre une décision fondée sur des faits plutôt que sur des présentations.
Combien de personnes l’utiliseront et à quelle fréquence ?
Si la réponse est « toute l’entreprise, tous les jours », un appareil de bureau ne suffira pas et un serveur GPU en baie sera approprié. Il est utile de calculer vos dépenses actuelles en API cloud et en abonnements. À grande échelle, votre propre matériel est moins coûteux sur une période de deux à trois ans.
Développez-vous vos propres modèles ou utilisez-vous des modèles prêts à l’emploi ?
L’utilisation de modèles prêts à l’emploi, même très grands, relève du niveau deux. Le développement de ses propres modèles relève déjà de B200. La frontière est nette et il est rarement difficile de déterminer de quel côté se situe une entreprise.
Quelle taille de modèle devez-vous exécuter et pour combien de personnes ?
Reportez-vous au tableau de la mémoire. Si le modèle choisi occupe 60 GB et doit être utilisé par cinquante personnes simultanément, une carte avec 96 GB de mémoire représente le minimum absolu, tandis que deux cartes offrent davantage de confort et de marge de croissance.
Que votre salle serveur peut-elle prendre en charge ?
Dans les projets d’IA, la surprise la plus fréquente ne concerne pas le matériel, mais le bâtiment : quelle puissance électrique peut y être acheminée, la climatisation peut-elle évacuer la chaleur supplémentaire et reste-t-il de la place dans la baie ? Mieux vaut le vérifier avant la commande plutôt qu’après la livraison.
Quels autres éléments composent le budget de déploiement ?
Le prix du serveur représente généralement 70–85 % du budget du projet. Il est utile de prendre en compte les autres postes dès la phase de planification.
- Alimentation électrique et baie – PDU de puissance adaptée, répartition des phases, alimentation secourue et, pour certaines installations, nouveau raccordement électrique.
- Refroidissement – jusqu’à environ 5–6 kW par baie, une climatisation de précision suffit généralement. Au-delà de 10 kW, un refroidissement liquide est utilisé, ce qui implique d’adapter la salle et de suivre une procédure de maintenance distincte. Si la salle serveur n’a pas été conçue à cet effet, il est préférable d’intégrer ce coût dès le chiffrage.
- Mémoire RAM – les configurations destinées à l’IA commencent à plusieurs centaines de gigaoctets, et le prix des modules serveur a fortement augmenté en 2026. L’écart entre 512 GB et 1 TB peut représenter un poste important du budget.
- Réseau – un commutateur offrant le débit adapté, des modules optiques et le câblage. Dans les configurations en cluster, un réseau dédié aux GPU s’ajoute.
- Stockage – les modèles et les corpus documentaires occupent des téraoctets, et le débit de lecture doit être adapté aux performances des cartes.
- Déploiement – installation des logiciels, mise en service du modèle, intégration à l’authentification de l’entreprise et aux systèmes que vous utilisez.
- Support et garantie – pour les environnements de production, une intervention sur site le jour ouvré suivant est la norme.
Par où commencer
L’erreur la plus fréquente lors de ce type d’achat est de commencer par le catalogue. L’ordre efficace est l’inverse : d’abord un cas d’usage, puis le nombre d’utilisateurs, ensuite une comparaison avec les coûts actuels du cloud, et seulement à la fin la configuration.
Si vous ne savez pas encore précisément à quoi l’IA doit servir, le premier niveau suffit pour რამდენიმე mois de tests et coûte autant qu’un ordinateur portable. Si les tests sont déjà terminés et que l’assistant doit être utilisé dans toute l’entreprise, le deuxième niveau est actuellement le choix le plus pertinent pour la plupart des organisations. Le troisième niveau s’impose lorsque vous développez vos propres modèles ; dans ce cas, la décision ne fait généralement aucun doute.
Si la configuration doit être adaptée à votre salle serveur — nombre de cartes, mémoire, réseau ou refroidissement — notre équipe préparera une proposition pour votre cas d’usage spécifique.
FAQ
La fourchette est large : à partir d’environ 5 524,23 € HT pour un appareil de bureau de la catégorie DGX Spark, environ 115 088,04 € pour un serveur GPU en baie rack dans une configuration de départ, jusqu’à environ 460 352,17 € pour une plateforme HGX B200. Au prix du matériel, il faut ajouter 15–30 % pour l’alimentation électrique, le refroidissement, le réseau et le déploiement.
Cela dépend de l’échelle. Le coût du cloud augmente avec le nombre de requêtes, tandis que celui de votre propre serveur est fixe : après l’achat, vous ne payez pas pour chaque appel. Il est donc utile de comparer vos factures actuelles d’API et d’abonnements avec les mensualités du matériel étalées sur trois ans et le coût de l’énergie. En cas d’utilisation intensive, l’infrastructure interne est plus avantageuse ; pour un usage occasionnel, le cloud reste moins cher.
Le modèle doit tenir intégralement dans la mémoire des cartes. À titre indicatif : un modèle de la catégorie 8B nécessite une dizaine de gigaoctets, un modèle de la catégorie 70B de 70 à 140 GB selon la précision de représentation du modèle, tandis que les modèles de plus de 200 milliards de paramètres commencent à plusieurs centaines de gigaoctets. Il faut également prévoir la mémoire nécessaire aux conversations en cours, qui augmente avec le nombre d’utilisateurs.
Pour les tests et les cas d’usage isolés, oui. Pour un usage en production, généralement non, car les limites concernent la mémoire totale des cartes ainsi que l’alimentation et le refroidissement du châssis, qui n’a pas été conçu pour accueillir huit accélérateurs.
Si l’IA doit être utilisée en production par tous, le choix le plus pertinent est un serveur GPU en baie rack équipé de deux cartes, avec la possibilité d’en ajouter d’autres. S’il s’agit encore d’une phase de test ou si une seule équipe l’utilise, un appareil de bureau de la catégorie DGX Spark suffit, éventuellement deux unités reliées en un seul système.
Un appareil de bureau consomme environ 240 W. Un serveur GPU en baie rack consomme d’environ 2 kW avec deux cartes à 5–6 kW avec huit cartes, et une plateforme HGX B200 avoisine 10 kW. Calculez le coût selon votre propre tarif au kWh et le temps de fonctionnement prévu : en fonctionnement continu, l’écart entre les niveaux peut être de plusieurs dizaines de fois.
