Serveur GPU : matériel, usages et coûts

Un serveur GPU associe un ou plusieurs processeurs graphiques à des CPU, de la mémoire système, du stockage et un réseau. Les GPU accélèrent les parties compatibles d’une application, tandis que le reste du système leur fournit les données et exécute les autres logiciels. Ces serveurs peuvent servir à l’apprentissage automatique, à l’inférence IA, au calcul scientifique, au rendu et à d’autres tâches parallèles.

Le choix commence par l’application, pas par le plus grand nombre de GPU. Il faut des logiciels compatibles, assez de mémoire, un acheminement des données adapté et une méthode pour mesurer les résultats utiles. Ce guide s’adresse aux développeurs, chercheurs et équipes informatiques qui comparent un serveur physique à des ressources louées dans le cloud.

Pour comprendre le principe de traitement, consultez notre introduction au calcul GPU. Nous nous concentrons ici sur le serveur complet et les décisions qui déterminent s’il répond à vos besoins.

Comment fonctionne un serveur GPU ?

Le CPU exécute le système d’exploitation, coordonne les processus et prend en charge des tâches comme la préparation des données. L’application confie au GPU les opérations compatibles, qu’il peut effectuer en grand nombre et en parallèle. Les opérations matricielles de l’apprentissage profond en sont un exemple. CPU et GPU travaillent ensemble ; ajouter un GPU ne lui transfère pas automatiquement toutes les opérations.

Les CPU effectuent eux aussi des traitements parallèles. La distinction utile porte sur l’adaptation de l’application à chaque processeur, à sa mémoire et aux logiciels disponibles. Une tâche comportant de nombreux branchements, un petit jeu de données ou un solveur non compatible peut peu bénéficier d’un serveur GPU.

Les déplacements de données peuvent aussi limiter l’accélération. Le guide des bonnes pratiques CUDA de NVIDIA recommande de limiter les transferts entre la mémoire de l’hôte et celle du GPU. Mesurez la tâche complète, chargement des données et enregistrement des résultats compris, plutôt que la seule exécution rapide d’un noyau GPU.

Serveur GPU, station de travail, machine virtuelle ou cluster ?

Ces termes décrivent différents aspects du déploiement. Un serveur peut contenir plusieurs GPU sans constituer un cluster. Un service cloud peut donner accès à un GPU par une machine virtuelle ou un conteneur sans réserver l’ensemble de l’hôte physique.

Notre guide des machines virtuelles GPU détaille la question du contrôle du système d’exploitation. Demandez au fournisseur cloud si le GPU proposé est dédié, partitionné ou partagé, et si les ressources CPU, RAM et stockage sont également dédiées.

Quelles applications bénéficient d’un serveur GPU ?

L’application doit prendre en charge l’accélérateur et l’utiliser efficacement. Un serveur GPU peut accélérer certains travaux en recherche médicale, finance, industrie ou médias, mais le secteur d’activité ne suffit pas à démontrer un gain. La présentation des serveurs GPU de HPE décrit des usages courants ; le dimensionnement doit rester fondé sur votre propre application.

Pour le traitement du langage naturel, distinguez l’entraînement, l’ajustement d’un modèle et l’inférence. Les besoins en mémoire et en communication diffèrent. De même, un test de rendu ne prédit pas les performances d’une simulation. Évitez les multiplicateurs d’accélération universels et les nombres de GPU imposés uniquement d’après le nom de la tâche.

Les caractéristiques d’un serveur GPU à examiner

La mémoire GPU et l’accélérateur précis

Commencez par le modèle exact du GPU, sa variante et la capacité mémoire de chaque unité. La RAM système et la mémoire GPU sont des ressources différentes : une grande quantité de RAM ne prouve pas qu’un modèle ou une scène tient en VRAM. Prévoyez de la marge pour les allocations temporaires, les données de travail et les besoins de l’application, au-delà du modèle ou du jeu de données principal.

La capacité mémoire n’est qu’une contrainte. Vérifiez sa bande passante, les formats numériques pris en charge, les fonctions de correction d’erreurs lorsqu’elles sont nécessaires et la compatibilité de l’application avec l’architecture. Les performances maximales annoncées à des précisions différentes ne sont pas directement comparables. Une carte pour le jeu et un accélérateur de centre de données peuvent répondre à des exigences logicielles et opérationnelles différentes.

CPU, RAM, stockage et réseau

Intel Xeon et AMD EPYC sont des familles courantes de processeurs pour serveurs, mais leur nom ne décrit pas une configuration complète. Vérifiez la génération exacte, les cœurs disponibles, la mémoire et les connexions. La préparation des données, la décompression et les services de l’application peuvent occuper le CPU pendant que le GPU attend.

Le stockage NVMe local peut convenir aux données temporaires, mais un stockage local n’est pas une sauvegarde. Pour une instance louée, précisez ce qui subsiste après un arrêt, un redémarrage ou une suppression. Conservez les jeux de données, résultats et points de contrôle importants sur un stockage doté d’un plan de récupération adapté.

Plusieurs GPU ne forment pas automatiquement une mémoire commune

Deux GPU de 24 Go ne se comportent pas automatiquement comme un GPU de 48 Go pour chaque application. Le logiciel doit répartir explicitement les tâches ou les données, et les communications ont un coût. Dans un entraînement classique en parallélisme de données, des copies du modèle traitent des données différentes ; pour accueillir un modèle plus grand, il peut être nécessaire de le partitionner ou d’utiliser le parallélisme de modèle.

Le tutoriel d’entraînement distribué de PyTorch explique la synchronisation des copies et la différence avec le parallélisme de modèle. Vérifiez l’implémentation de votre bibliothèque avant d’acheter davantage de GPU. Notre guide de l’inférence LLM sur plusieurs GPU présente les choix d’architecture associés pour l’inférence.

Ne déduisez pas la présence de NVLink du nombre de GPU ou de leur famille. Demandez la topologie réelle. Des tâches indépendantes par lots peuvent nécessiter moins de communications qu’un entraînement étroitement couplé. Un même serveur peut donc évoluer différemment selon le travail effectué.

Vérifier les logiciels avant l’achat

Confirmez la version de l’application, sa bibliothèque de calcul, l’architecture GPU, le pilote, l’environnement d’exécution, le système d’exploitation et les licences nécessaires. La présence du GPU dans un outil de surveillance ne prouve pas que l’application complète fonctionne correctement.

Pour NVIDIA, consultez la documentation de compatibilité CUDA pour vérifier les relations entre pilote et boîte à outils. Pour AMD, consultez la matrice de compatibilité ROCm correspondant à l’accélérateur et aux logiciels concernés. Ne supposez pas qu’un programme conçu pour une plateforme GPU fonctionne sans modification sur une autre.

Les images de conteneurs facilitent la reproduction d’un environnement, mais dépendent encore de pilotes hôtes compatibles et des périphériques exposés. Notez les versions des images et des dépendances pendant les tests afin de pouvoir reproduire un essai concluant.

Si plusieurs personnes partagent le serveur, définissez l’allocation des ressources et la séparation des accès. NVIDIA Multi-Instance GPU peut partitionner les GPU compatibles en instances disposant de ressources dédiées, dans les limites matérielles et logicielles documentées. Il s’agit d’une fonction précise, pas d’une propriété de tous les serveurs GPU ou de toutes les offres cloud.

Alimentation et refroidissement dépendent de la configuration

Ne dimensionnez pas le site uniquement d’après la puissance des GPU. CPU, mémoire, stockage, réseau, ventilateurs et conversion électrique contribuent aussi à la consommation. Demandez au fournisseur les exigences électriques, thermiques, environnementales, de poids et d’intégration en baie pour la configuration réelle.

Le refroidissement liquide n’est pas universel. À titre d’exemple documenté, NVIDIA indique une puissance maximale de 10,2 kW et un refroidissement par air pour le DGX H100 dans son guide de planification des centres de données. Cette valeur décrit ce système précis ; elle ne représente ni une consommation habituelle ni une règle applicable aux autres serveurs. Suivez les exigences du matériel choisi.

L’aménagement du site peut modifier le coût de possession. Intégrez l’espace en baie, la capacité électrique, le refroidissement, le bruit, l’installation et la maintenance avant de considérer un devis matériel comme un coût complet.

Acheter un serveur GPU ou louer des ressources cloud ?

L’achat peut convenir à une demande soutenue et prévisible lorsque l’équipe peut exploiter le matériel et que les locaux sont adaptés. La location cloud peut convenir aux expériences, à des besoins variables ou à l’essai de plusieurs configurations. Aucune option n’est automatiquement moins chère ou plus sûre.

Comparez les mêmes tâches et exigences de service sur une période identique. Pour l’achat, incluez matériel, financement éventuel, énergie, refroidissement, espace, maintenance, logiciels, personnel et capacité inutilisée. Pour le cloud, incluez l’instance complète, le stockage persistant, les transferts, les licences, le support et le temps de fonctionnement sans travail utile.

Une comparaison utile est le coût total attribuable divisé par le nombre de résultats acceptés. Définissez ce résultat : un entraînement à la qualité requise, une simulation validée, une scène rendue ou un nombre de requêtes respectant la latence cible. Un tarif horaire inférieur peut malgré tout conduire à un coût par résultat plus élevé.

Vérifiez les engagements, quotas, disponibilités, règles d’interruption et prestations de support avant de vous appuyer sur un devis. Notre guide des précautions pour la location de GPU traite ces questions. Un ancien prix de revente d’accélérateur ne constitue pas un devis actuel pour un serveur complet avec support.

Tarifs de location GPU : vérifier l’unité de facturation

Les tarifs publics consultés le 19 octobre 2026 montrent pourquoi cette unité compte. Lambda affiche une instance avec un A100 PCIe de 40 Go à 1,99 $ US par GPU et par heure, et une instance avec huit H100 SXM de 80 Go à 3,99 $ US par GPU et par heure. Cette dernière coûte donc 31,92 $ US par heure d’instance, soit 3 192 $ US pour 100 heures, hors taxes applicables et frais distincts. Ces offres ne représentent ni une fourchette générale du marché ni des configurations équivalentes.

Si le devis porte déjà sur l’instance entière, ne multipliez pas de nouveau son tarif par le nombre de GPU. Vérifiez la variante de l’accélérateur, les CPU et la RAM alloués, le stockage, la localisation, l’unité de facturation et la durée minimale. Un engagement réservé, une instance interruptible et une instance à la demande peuvent présenter des conditions de reprise et de disponibilité différentes avec le même GPU.

Établir une estimation complète

Comptez toute la durée facturable : préparation, chargement des données, nouvelles tentatives et périodes d’inactivité pendant lesquelles la ressource reste facturée. Ajoutez les postes que le fournisseur facture séparément :

• Calcul : tarif de l’instance multiplié par les heures facturables, ou tarif GPU multiplié par le nombre de GPU et les heures facturables. Ajoutez les CPU ou la mémoire uniquement si l’offre les facture à part.
• Stockage : disques de travail, volumes persistants, instantanés, sauvegardes et opérations éventuellement facturées. Vérifiez si les données conservées continuent de coûter après l’arrêt du calcul.
• Réseau : transferts sortants, transferts entre régions, quotas de bande passante et éventuels services réseau ou adresses payants. L’envoi de données au fournisseur n’est pas nécessairement facturé.
• Exploitation : licences, support, administration, maintenance de sécurité et reprise, ainsi que taxes et conversion monétaire lorsqu’elles s’appliquent.

Demandez des conditions écrites au lieu d’ajouter un pourcentage universel de « frais cachés ». Notre guide des prix des serveurs compare plus largement l’achat, la location dédiée et la facturation cloud.

Un exemple chiffré pour comparer avec l’achat

Prenons un budget hypothétique sur trois ans : 24 000 $ US pour un serveur complet et 400 $ US par mois pour son exploitation, soit 38 400 $ US sur 36 mois. Ces montants servent au calcul ; ils ne constituent ni un devis matériel ni un budget d’exploitation habituel. Remplacez-les par vos devis et vos coûts mesurés.

Avec une configuration cloud équivalente au tarif supposé de 3 $ US par heure d’instance, 200 heures facturables par mois coûtent 21 600 $ US sur trois ans. À 600 heures par mois, le total atteint 64 800 $ US. Ces totaux cloud excluent les éventuels frais distincts. Le calcul suppose aussi une quantité identique de résultats utiles par heure. Testez les deux systèmes et intégrez, selon le projet, le personnel, les interruptions, le financement et la valeur résiduelle avant de décider.

Pour estimer l’énergie, mesurez la consommation du système complet. Une moyenne supposée de 1,2 kW pendant 200 heures représente 240 kWh. À un tarif supposé de 0,15 $ US par kWh, l’électricité consommée par le serveur sur cette durée coûte 36 $ US. Ce calcul exclut le fonctionnement au repos en dehors de cette période et le refroidissement. La puissance maximale annoncée sert à dimensionner le site ; elle ne mesure pas l’énergie consommée par une tâche.

La place de Compute with Hivenet

Compute with Hivenet propose des instances GPU et CPU pour des usages tels que les expériences IA, l’inférence, le rendu et le développement. C’est une option à évaluer lorsque la location correspond au projet. Vérifiez les instances et régions disponibles, l’environnement logiciel, le comportement du stockage et les conditions de facturation avant le déploiement.

Une offre de location GPU ne suffit pas à confirmer la prise en charge d’une topologie d’entraînement particulière sur plusieurs nœuds. Demandez les connexions et le mode d’allocation nécessaires, puis testez. La disponibilité du produit et les résultats de l’application doivent être vérifiés séparément.

Au 19 octobre 2026, la page produit publique présente des options RTX 5090 et RTX 6000. Utilisez le prix actuel de la configuration dans la console, sans supposer qu’une offre A100, H100 ou RTX 4090 est disponible. La documentation de facturation de Hivenet décrit des crédits d’organisation prépayés en euros et une facturation à la seconde des usages éligibles lorsque les instances sont en état Running. Une instance en fonctionnement reste facturée même si elle ne traite aucune tâche.

L’arrêt peut réduire les frais de calcul, mais ne remplace pas une sauvegarde. Selon les règles de cycle de vie de Hivenet, une instance arrêtée est automatiquement supprimée après 10 jours sans redémarrage, avec ses données locales. Conservez des copies indépendantes des données nécessaires avant d’arrêter ou de supprimer les ressources.

Évaluer un serveur GPU en pratique

Réalisez un essai représentatif avec des critères d’acceptation écrits :

1. Définir la tâche. Notez l’application, les données, la qualité attendue, les traitements simultanés, le délai et les restrictions éventuelles sur le lieu de traitement des données.
2. Confirmer l’adéquation. Vérifiez les logiciels compatibles, la mémoire GPU, les allocations CPU et RAM, le stockage et l’accès. Commencez par la plus petite configuration plausible.
3. Mesurer tout le processus. Incluez la préparation, le chargement, le calcul, l’enregistrement des résultats et les transferts. Répétez les essais et notez les variations.
4. Valider la fiabilité. Vérifiez l’exactitude des résultats, la reprise depuis un point de contrôle, la concurrence pour les ressources et les interruptions pertinentes pour le déploiement.
5. Comparer et décider. Calculez le coût par résultat accepté et le travail d’exploitation nécessaire. Ajoutez des ressources seulement si les mesures identifient une limite qu’elles peuvent résoudre.

Conservez le script de test, les versions de l’environnement, les réglages et les résultats. Vos collègues pourront ainsi examiner et reproduire les éléments qui fondent la décision d’achat ou de location, au-delà des caractéristiques GPU annoncées.

Questions fréquentes

Combien de GPU faut-il dans un serveur ?

Un seul peut suffire. Des GPU supplémentaires sont utiles si l’application les prend en charge et si leur capacité répond à un besoin mesuré de mémoire, de débit ou de traitements simultanés. Il n’existe pas de nombre fixe pour tous les travaux d’entraînement ou d’inférence IA.

Combien coûte un serveur GPU ?

Il n’existe pas de prix unique. Demandez un devis daté pour une configuration et une durée de support définies, puis ajoutez les coûts d’exploitation. Pour une location cloud, chiffrez le travail complet plutôt que de multiplier uniquement le tarif GPU mis en avant.

Faut-il un serveur GPU pour un site web ou une API ?

Un service CPU généraliste est généralement le point de départ, sauf si l’application comprend des tâches compatibles GPU, comme l’inférence ou le rendu. Mesurez le comportement de l’application avant de payer pour un accélérateur.

Plus de mémoire GPU accélère-t-elle toutes les tâches ?

Non. Elle peut permettre de charger une tâche plus volumineuse ou réduire les déplacements de données, mais une tâche qui tient déjà en mémoire peut être limitée par le calcul, la bande passante, les logiciels ou un autre composant. Testez la configuration réelle.