Calcul GPU : fonctionnement, usages et limites

Le calcul GPU utilise un processeur graphique pour accélérer des calculs qui peuvent s'exécuter en parallèle. Il sert notamment à l'apprentissage automatique, à la simulation scientifique, au rendu, au traitement d'images et au calcul numérique. L'enjeu est de savoir si l'application peut exploiter le GPU et terminer le travail complet plus vite ou à moindre coût.

Un grand jeu de données ou un temps d'exécution élevé ne suffit pas à justifier un GPU. La compatibilité logicielle, la mémoire nécessaire, les transferts de données et la structure de l'algorithme déterminent le résultat. Ce guide explique ces choix avant d'aborder le déploiement dans le cloud.

Qu'est-ce que le calcul GPU ?

Un processeur graphique dispose de nombreuses unités d'exécution conçues pour traiter un grand nombre d'opérations en parallèle. Le calcul GPU utilise ces ressources au-delà de la production d'images pour un écran. Le terme GPGPU, pour « general-purpose computing on graphics processing units », désigne cet usage généraliste hors du graphisme. Il ne correspond pas à une catégorie de puce distincte.

Une application de traitement d'images peut, par exemple, appliquer une opération à de nombreux pixels ; une simulation peut mettre à jour de nombreuses particules. Les réseaux de neurones répètent des opérations sur des matrices et des tenseurs. Ces problèmes offrent des possibilités de parallélisme, mais leur vitesse dépend de l'implémentation et du matériel.

Calcul CPU et calcul GPU

Le processeur central, ou CPU, assure l'exécution générale des programmes, les tâches du système d'exploitation et le contrôle du déroulement des instructions. Les CPU permettent aussi le traitement parallèle grâce à leurs multiples cœurs et à leurs instructions vectorielles. Un GPU privilégie davantage l'exécution d'un grand nombre d'opérations concurrentes, souvent au prix d'une performance moindre par fil d'exécution.

Les deux travaillent généralement ensemble. Le CPU exécute l'application et coordonne les tâches ; le GPU traite les fonctions adaptées à l'accélération. Un service web peut gérer les requêtes et préparer les données sur CPU, puis envoyer un lot d'entrées au GPU pour exécuter un modèle. L'objectif n'est pas de remplacer le CPU.

Le CPU peut convenir aux petits travaux, à la logique séquentielle et aux logiciels sans implémentation GPU efficace. Le GPU peut servir aux grands lots d'opérations numériques, au rendu ou aux applications scientifiques compatibles. Ni le nombre de cœurs ni la présence du mot « IA » ne suffit à trancher.

Comment fonctionne l'accélération GPU ?

Dans une application typique, le système CPU est l'hôte et le GPU est le périphérique de calcul. Le modèle de programmation CUDA de NVIDIA explique comment le code hôte lance des fonctions GPU, appelées noyaux ou kernels. Le déroulement peut être résumé ainsi :

1. Préparer le travail. L'application lit les entrées et les organise pour le calcul.
2. Rendre les données accessibles au GPU. Cela peut passer par des copies explicites ou par un mécanisme compatible de mémoire partagée ou gérée.
3. Lancer les opérations GPU. Le framework ou l'application répartit le travail entre de nombreux fils d'exécution.
4. Calculer et coordonner. Les fils traitent les données et se synchronisent lorsque l'algorithme l'exige.
5. Exploiter les résultats. Les sorties restent sur le GPU pour d'autres opérations ou deviennent accessibles au code CPU.

Les fils d'exécution sont affectés aux ressources disponibles du matériel. Ils ne s'exécutent pas tous au même instant, et le GPU n'impose pas à tous les fils de l'application de suivre un chemin identique. Les règles précises dépendent de la plateforme de programmation et de l'architecture.

L'accélération matérielle au-delà des kernels GPU

Un accélérateur de calcul, ou « compute accelerator », est un composant matériel utilisé pour accélérer certains calculs d’une application, généralement aux côtés d’un CPU généraliste. Son utilisation constitue une forme d’accélération matérielle. Les GPU en sont une catégorie ; le terme couvre aussi des processeurs spécialisés et du matériel reconfigurable. Il concerne la simulation scientifique, le rendu et le traitement du signal, ainsi que l’IA. Notre guide des accélérateurs d’IA explique les différences entre GPU, NPU, TPU, FPGA et ASIC pour l’apprentissage automatique.

Un GPU peut aussi intégrer des unités dédiées à certaines tâches. Les unités vidéo NVENC et NVDEC de NVIDIA assurent l'encodage et le décodage séparément des cœurs CUDA. Les codecs et formats pris en charge dépendent de la génération du GPU et de leur intégration dans l'application. Un traitement vidéo peut donc utiliser l'accélération matérielle sans solliciter fortement les cœurs de calcul généraliste du GPU.

La planification GPU à accélération matérielle de Windows modifie la façon dont le travail est ordonnancé. Avec du matériel et des pilotes compatibles, elle transfère des tâches fréquentes de planification à un processeur intégré au GPU. Windows conserve le contrôle des priorités. Ce réglage ne transforme pas du code CPU ordinaire en code GPU et ne garantit pas un gain de performances.

De même, activer l'accélération graphique dans un navigateur concerne les tâches compatibles de ce navigateur. Un calcul exécuté dans le cloud exige des logiciels et des pilotes compatibles sur la machine distante. La configuration de pilote réservée au calcul de NVIDIA permet, par exemple, d'exécuter des applications CUDA sans utiliser le GPU pour piloter un écran.

Les limites du parallélisme

Les tâches indépendantes offrent des possibilités d'accélération. Les dépendances, les communications et les étapes séquentielles les limitent. Prenons un exemple théorique : un travail consacre un quart de son temps à une étape impossible à accélérer. Même si tout le reste devenait instantané, le travail complet ne pourrait être accéléré que d'un facteur quatre au maximum. C'est une limite idéalisée issue de la loi d'Amdahl, pas une mesure de performance GPU.

Déplacer les données prend également du temps. Envoyer une petite opération au GPU puis recopier immédiatement son résultat, de façon répétée, peut annuler le bénéfice d'un calcul plus rapide. Le guide des bonnes pratiques CUDA recommande d'évaluer l'application complète et de réduire les transferts inutiles entre hôte et périphérique.

VRAM, bande passante et précision numérique

Sur un GPU dédié, la mémoire locale est couramment appelée VRAM. Elle peut contenir les poids d'un modèle, les activations, les textures, l'état d'une simulation et les résultats temporaires. Sa capacité détermine si une configuration tient en mémoire ; sa bande passante influe sur la rapidité d'accès aux données. Les systèmes à GPU intégré ou à mémoire unifiée peuvent organiser la mémoire autrement.

Le nombre de paramètres d'un modèle ne donne pas son besoin total en mémoire. L'entraînement peut aussi nécessiter des gradients et l'état de l'optimiseur. L'inférence ajoute des buffers temporaires et, pour de nombreux modèles de langage, un cache qui augmente avec le contexte et le nombre de requêtes simultanées. Mesurez la configuration prévue au lieu de considérer la taille des poids comme une garantie de capacité suffisante.

La précision compte également. FP64, FP32, FP16, bfloat16 et les formats entiers présentent des propriétés numériques et des besoins de stockage différents. Une précision réduite peut diminuer la mémoire nécessaire ou accélérer certaines opérations, mais les résultats doivent rester acceptables. Un solveur scientifique peut avoir d'autres exigences de précision qu'une application de génération d'images ou d'inférence.

Davantage de VRAM permet de conserver un ensemble de données de travail plus volumineux ; cela ne garantit pas un calcul plus rapide. Les accès mémoire, l'architecture, les opérations prises en charge et l'efficacité du logiciel influencent aussi les performances.

CUDA, ROCm et les logiciels GPU

CUDA est la plateforme de calcul parallèle et le modèle de programmation de NVIDIA pour ses GPU compatibles. Les développeurs peuvent écrire directement des kernels ou utiliser des bibliothèques et frameworks qui s'en chargent. CUDA est une infrastructure logicielle, distincte du matériel GPU.

AMD ROCm fournit une pile logicielle ouverte pour le calcul accéléré par GPU, avec des environnements d'exécution, compilateurs, bibliothèques et outils. Le calcul GPU passe aussi par d'autres interfaces, dont OpenCL, SYCL et Metal d'Apple. La compatibilité dépend de l'application, du système d'exploitation et du périphérique précis.

De nombreux utilisateurs commencent avec PyTorch, TensorFlow, JAX, un moteur de rendu ou un logiciel scientifique. Vérifiez les GPU pris en charge et les exigences d'installation avant de choisir le matériel. Une machine puissante peut rester inadaptée si la version nécessaire de l'application ne reconnaît pas son GPU.

Assurez la compatibilité entre le pilote, la version du framework, l'environnement d'exécution et les éventuelles extensions personnalisées. Installer une version quelconque du CUDA Toolkit ne résout pas tous les problèmes. Notre guide de compatibilité CUDA pour Stable Diffusion explique concrètement les relations entre ces composants.

Les principaux usages du calcul GPU

Apprentissage automatique et inférence IA

L'entraînement des réseaux de neurones comporte des opérations qui peuvent exploiter le parallélisme GPU. L'inférence peut aussi en bénéficier, notamment lorsque la taille du modèle ou le volume de requêtes justifie un accélérateur. De petits modèles ou des services peu sollicités peuvent satisfaire leurs besoins sur CPU.

La chaîne d'alimentation en données doit suivre le rythme. Si l'application attend le prétraitement ou le stockage, un GPU plus rapide peut simplement rester inactif plus longtemps. Le guide d'optimisation des performances de PyTorch présente des choix de chargement des données et de synchronisation qui influencent cet équilibre.

Entraînement, fine-tuning et inférence : des besoins différents

Pour utiliser un GPU en intelligence artificielle, précisez la tâche avant de choisir le matériel. Un même réseau de neurones peut avoir des besoins de mémoire et de performance différents selon l'étape.

Tâche d'IA	Ce qui change	Ce qu'il faut mesurer
Entraînement à partir de zéro	Le modèle apprend ses paramètres par des passes avant répétées, le calcul de gradients et les mises à jour de l'optimiseur.	Le pic de mémoire pour les poids, les activations, les gradients et l'état de l'optimiseur ; le débit et le temps nécessaire pour obtenir un résultat validé.
Adaptation d'un modèle préentraîné	Le fine-tuning complet modifie les poids du modèle de base. Des méthodes économes en paramètres, comme LoRA, entraînent de petites matrices d'adaptation tout en gelant les poids d'origine.	La méthode d'adaptation, la longueur des séquences, la taille des lots, la précision, la mémoire utilisée et la qualité sur des données réservées à l'évaluation.
Inférence	Le modèle entraîné produit des résultats sans les mises à jour de paramètres habituelles de l'entraînement.	La latence et le débit avec une demande réaliste, ainsi que la mémoire nécessaire aux requêtes simultanées et aux caches du modèle.

La documentation LoRA de Hugging Face explique la réduction du nombre de paramètres entraînables. Le modèle de base doit rester disponible pendant le calcul : un petit fichier d'adaptation ne donne donc pas le besoin total en VRAM. Notre guide du fine-tuning LoRA détaille la mise en place.

Pour l'inférence des modèles de langage, des contextes plus longs et davantage de requêtes simultanées peuvent augmenter la mémoire du cache KV. Le guide d'optimisation des LLM de Hugging Face explique ce compromis. Le nombre de paramètres ne suffit pas à déterminer ce qui tient sur un GPU. Comparez les besoins matériels de l'entraînement et de l'inférence dans la configuration prévue, sans appliquer de seuil universel de taille de modèle.

Calcul scientifique et simulation

Les applications compatibles peuvent accélérer la dynamique moléculaire, les méthodes numériques, l'imagerie scientifique et certains solveurs d'ingénierie. La prise en charge varie selon le solveur, l'algorithme et la fonction utilisée. Vérifiez quelles étapes s'exécutent réellement sur GPU, puis contrôlez la précision et le temps de calcul. Le guide de la simulation HPC distingue l'extension d'un calcul couplé de l'exécution de nombreux cas indépendants.

Frontier offre un exemple concret de coopération entre CPU et GPU à l’échelle d’un supercalculateur. Chaque nœud de calcul associe un CPU AMD EPYC à quatre accélérateurs AMD Instinct MI250X. Son environnement logiciel utilise AMD ROCm et d’autres outils de programmation compatibles, décrits dans le guide utilisateur de Frontier. Il s’agit de calcul accéléré par GPU sur du matériel AMD ; CUDA n’est pas la plateforme de programmation native de ces accélérateurs.

Rendu, médias et traitement de données

Les moteurs de rendu compatibles utilisent les GPU pour le lancer de rayons et d'autres calculs de scène. Le traitement d'images, les effets vidéo et le traitement du signal peuvent aussi se prêter au parallélisme. Certaines opérations multimédias utilisent des blocs matériels spécialisés plutôt que des kernels généralistes : vérifiez le mécanisme d'accélération de l'application.

GPU pour la science des données : tableaux et expérimentations

Commencez par l'étape lente : préparation d'un dataframe, ajustement d'un estimateur ou évaluation de nombreux essais. Installer un GPU n'accélère pas automatiquement le code Python, pandas ou scikit-learn. Ces outils proposent des mécanismes précis :

Charge de travail	Option GPU	Points à vérifier
Opérations sur des dataframes	cudf.pandas	Utilise le GPU pour les opérations pandas compatibles et revient à pandas sur le CPU pour les autres. Profilez le traitement complet, transferts et retours au CPU compris.
Workflows compatibles scikit-learn, UMAP et HDBSCAN	cuml.accel	Peut accélérer le code existant lorsqu'il est activé avant les imports concernés. Les estimateurs, paramètres, entrées et versions déterminent les opérations exécutées sur le GPU.
Arbres à gradient boosting	Prise en charge de CUDA par XGBoost	La configuration Python documentée utilise tree_method="hist" et device="cuda". Prévoyez de la mémoire pour les données et les allocations de travail de l'algorithme.

Ces exemples utilisent l'environnement CUDA de NVIDIA. Vérifiez les exigences de la version installée concernant le GPU, le pilote et le système d'exploitation. Un traitement qui s'exécute correctement peut encore passer l'essentiel de son temps sur le CPU. Comparez la durée totale et le pic de mémoire à une exécution CPU, avec des lignes, colonnes, types de données et critères de qualité représentatifs.

Pour la recherche d'hyperparamètres, distinguez l'accélération d'un entraînement de l'exécution simultanée de plusieurs essais. Les essais parallèles se partagent la mémoire GPU et les autres ressources. Mesurez le nombre d'essais terminés et validés par unité de coût ; davantage de tâches simultanées ne garantit pas une progression plus rapide.

Conservez les partitions des données, les versions des paquets, les graines aléatoires et les critères d'évaluation avec chaque expérimentation. Un conteneur ne garantit pas à lui seul des résultats identiques entre appareils ou versions logicielles. Les recommandations de reproductibilité de PyTorch expliquent ces limites et le coût potentiel des algorithmes déterministes en matière de performance.

Quand un GPU n'apporte pas de gain

Analysez l'exécution de l'application avant de louer ou d'acheter davantage de matériel. Un GPU peut apporter peu de valeur si l'essentiel du temps est consacré à attendre le stockage, à traiter des décisions séquentielles ou à exécuter du code incompatible. De petits problèmes peuvent être résolus sur CPU avant que la préparation et les transferts GPU deviennent rentables.

Une faible utilisation est un indice, pas un diagnostic complet. Elle peut révéler une alimentation en données trop lente, un parallélisme insuffisant, des synchronisations fréquentes ou une mesure effectuée entre deux pics d'activité. À l'inverse, une utilisation élevée ne prouve pas que les kernels exploitent efficacement le matériel.

Modifier la taille des lots, l'organisation de la mémoire ou le prétraitement peut être plus utile qu'un accélérateur plus puissant. Si un CPU respecte déjà le délai et le budget, conservez-le comme référence sérieuse dans la comparaison.

Comment choisir une infrastructure GPU

Partez d'un travail représentatif et d'exigences explicites :

• Compatibilité de l'application : architectures GPU, systèmes d'exploitation, pilotes, bibliothèques et licences pris en charge.
• Mémoire et précision : pics de mémoire GPU et système, formats numériques disponibles et précision requise.
• Alimentation en données : capacité CPU, débit du stockage, prétraitement et temps de transfert.
• Objectif de performance : échéance, débit de traitement et latence acceptable par requête.
• Coût d'exploitation : coût complet du travail, configuration, ressources inactives, stockage et nouvelles tentatives compris.

Mesurez davantage qu'un petit kernel. Utilisez des entrées réalistes et incluez le chargement, la préparation, le traitement des sorties et les éventuelles phases de compilation ou de démarrage pertinentes. Comparez les configurations à qualité de résultat équivalente.

Un GPU ou plusieurs ?

Plusieurs GPU sont utiles si l'application peut répartir efficacement le travail. Des tâches indépendantes peuvent utiliser des périphériques distincts. Un même entraînement peut répartir les données, partitionner le modèle ou utiliser des étapes de pipeline, avec des exigences de mémoire et de communication différentes.

Ajouter des GPU ne fusionne pas automatiquement leur mémoire et ne double pas nécessairement la performance. Le logiciel doit gérer le placement et les communications, et les connexions entre périphériques comptent. Le guide de programmation multi-GPU de NVIDIA explique ces exigences. Validez une architecture à plusieurs nœuds séparément d'un résultat obtenu sur un seul hôte.

Calcul GPU local ou dans le cloud

Le matériel local peut convenir à une utilisation régulière, au travail hors ligne ou à une obligation de conserver les données sur site. Prenez en compte l'achat, l'électricité, le refroidissement, la maintenance, les mises à niveau et la capacité inutilisée. Le matériel existant a aussi de la valeur s'il termine le travail dans le délai requis.

Les instances GPU cloud peuvent convenir aux projets temporaires, aux demandes variables et aux essais de configurations avant un achat. Vérifiez la disponibilité, les accès, les logiciels compatibles, le stockage et les modalités de transfert. L'accès distant évite d'acquérir sa propre machine, mais laisse des tâches de configuration et d'exploitation à accomplir.

Une comparaison utile repose sur le coût par travail terminé. Combinez le temps mesuré et le tarif applicable avec le stockage, les éventuels frais de transfert, les licences et le temps d'ingénierie. Pour des travaux répétés, comparez l'utilisation attendue sur une période réaliste. Le cloud n'est pas automatiquement l'option la moins chère.

Comment mesurer les performances GPU

Relevez le temps de traitement de bout en bout et le débit utile : images, étapes de simulation ou requêtes par seconde. Pour un service, mesurez la latence sous la charge prévue, y compris les requêtes les plus lentes. Relevez aussi le pic de mémoire et le temps consacré aux transferts et à la préparation.

Complétez les mesures d'utilisation par un profileur. Princeton Research Computing précise que le pourcentage d'utilisation NVIDIA mesure le temps pendant lequel un kernel fonctionne, sans indiquer son efficacité. Des outils comme Nsight Systems et Nsight Compute permettent une analyse plus détaillée.

Le travail GPU peut s'exécuter de façon asynchrone par rapport au code CPU. Un chronomètre arrêté juste après le lancement peut mesurer l'envoi du travail plutôt que son exécution complète. Suivez la méthode de mesure du framework et distinguez le démarrage du régime établi.

Le rôle de Compute with Hivenet

Compute with Hivenet propose des instances GPU et vCPU, des machines virtuelles et conteneurs, des modèles et images système, des organisations d'équipe et une API publique. Sa page produit actuelle présente des options RTX 5090 et RTX 6000. Vérifiez les configurations disponibles et les tarifs du déploiement prévu.

Le client gère l'environnement d'exploitation, les frameworks, l'application et les données. Hivenet décrit un fonctionnement par crédits prépayés et une facturation à la seconde pendant l'exécution des instances. Une instance démarrée mais inactive peut rester facturée : arrêtez les ressources lorsque le calcul actif n'est plus nécessaire.

Les usages adaptés peuvent comprendre l'expérimentation sur des modèles, le rendu, les notebooks et des applications scientifiques compatibles. Confirmez les besoins en mémoire, logiciels, stockage et réseau par un essai représentatif. Pour une application qui exige un point de terminaison de modèle géré, la Hivenet Inference API constitue un service distinct, avec un autre mode d'exploitation.

Questions fréquentes

Le calcul GPU est-il toujours plus rapide que le calcul CPU ?

Non. Un GPU exige un travail parallélisable et des logiciels compatibles. La préparation, les transferts, les limites mémoire et les parties séquentielles peuvent annuler le gain de calcul. Mesurez le travail complet en le comparant à une référence CPU.

Faut-il écrire du code CUDA ?

Il est souvent possible d'utiliser une application ou un framework compatible GPU. Les kernels personnalisés exigent des compétences plus spécialisées. CUDA est une plateforme parmi d'autres ; le choix logiciel dépend du matériel et de l'application.

De combien de VRAM ai-je besoin ?

Mesurez le pic de mémoire avec le modèle, les données, la taille de lot, la précision et le mode d'exécution prévus. Gardez une marge pour les allocations temporaires. L'entraînement et l'inférence peuvent avoir des besoins différents avec un même modèle.

Deux GPU peuvent-ils fonctionner comme un seul GPU plus grand ?

Seulement si l'application permet de répartir son travail et sa mémoire entre périphériques. Les capacités mémoire ne forment pas automatiquement un ensemble interchangeable. Le coût des communications et la connectivité entre GPU influencent le résultat.