Machine virtuelle GPU : qu'est-ce que c'est et qui en a réellement besoin

Une machine virtuelle GPU (GPU VM) est un ordinateur Linux complet dans le cloud qui a accès à un GPU. Une machine virtuelle GPU dispose d'un accès direct ou partitionné à une unité de traitement graphique (GPU) physique, ce qui permet d'accélérer les performances sur les charges de travail de traitement parallèles. Le GPU, ou unité de traitement graphique, est essentiel pour les tâches gourmandes en ressources graphiques et en calcul, ce qui rend les machines virtuelles GPU idéales pour les charges de travail exigeantes telles que la formation à l'IA et le calcul haute performance, en particulier lorsqu'elles sont associées à ressources GPU cloud flexibles de HiveCompute..

Sur Compute with Hivenet, une machine virtuelle GPU est l'option « contrôle total du système d'exploitation ». C'est le bon choix lorsque vous recherchez un environnement de type serveur et que vous ne voulez pas dépasser les limites d'un environnement d'exécution de conteneur. Si vous souhaitez la mise à jour du produit qui a introduit les machines virtuelles sur Compute, commencez ici : Compute prend désormais en charge les machines virtuelles (VM).

Qu'est-ce qu'une machine virtuelle GPU, en anglais clair

Considérez une machine virtuelle avec processeur graphique comme « votre propre boîtier Linux, auquel est connecté un processeur graphique ».

Vous obtenez un système d'exploitation que vous pouvez modifier. Vous pouvez installer des packages, exécuter des services d'arrière-plan, configurer les outils comme vous le souhaitez et conserver l'état du système lors des redémarrages. Cela vous donne l'impression d'avoir déjà utilisé des machines virtuelles cloud.

La partie « GPU » signifie que vos programmes peuvent utiliser l'accélération GPU pour les charges de travail qui en bénéficient, comme l'entraînement des modèles, le réglage, l'inférence rapide, le rendu, la charge de travail de l'IA, l'intelligence artificielle et les tâches de science des données, ainsi que certains traitements de données, reflétant le rôle plus large de Les GPU dans les charges de travail informatiques et d'IA modernes.. Par exemple, l'IA générative peut utiliser des machines virtuelles GPU pour créer des images détaillées et réalistes à partir d'instructions textuelles.

Les machines virtuelles GPU exploitent des milliers de cœurs GPU spécialisés pour un traitement parallèle massif, contrairement aux machines virtuelles standard qui dépendent du processeur de l'hôte. Les ressources GPU peuvent être réparties et partagées entre plusieurs machines virtuelles ou allouées à une seule machine virtuelle pour gérer des charges de travail exigeantes.

Si vous n'avez pas besoin d'un contrôle au niveau du système d'exploitation, une instance de conteneur est souvent un moyen plus simple de faire fonctionner le GPU. Ce sélecteur est le moyen le plus rapide de prendre une décision : VM ou conteneur : comment choisir en 60 secondes.

Qui doit utiliser une machine virtuelle GPU

La plupart des gens n'ont pas besoin d'une machine virtuelle GPU simplement parce qu'elle existe. Vous en avez besoin en raison de la forme de votre flux de travail et de votre demande spécifique. Ce sont les cas où une machine virtuelle GPU gagne sa vie, en particulier pour les développeurs à la recherche de cloud computing GPU rentable avec Hivenet..

Vous avez besoin d'un contrôle total du système d'exploitation pour votre flux de travail. Si vous avez toujours besoin de sudo, de packages système, de services système ou de réglages de bas niveau, une machine virtuelle vous permet de gagner du temps. Si cela vous semble familier, ce guide de migration vaut la peine d'être lu rapidement : Quand cela vaut la peine de passer d'une instance de conteneur à une machine virtuelle.

Vous souhaitez exécuter Docker de la manière habituelle. Si votre stack est construit autour de Docker et Docker Compose, une machine virtuelle est l'option la plus propre car vous pouvez installer Docker une seule fois et l'utiliser comme vous le feriez sur n'importe quel autre serveur. Voici l'aperçu du blog : Exécutez Docker de la manière habituelle sur une machine virtuelle de calcul. Si vous souhaitez obtenir des instructions étape par étape, utilisez le didacticiel Docs : Comment installer Docker sur une machine virtuelle de calcul.

Vous utilisez un service de longue durée sur des GPU. Si vous hébergez une API d'inférence, une interface utilisateur de démonstration ou un travailleur persistant, une machine virtuelle semble souvent plus naturelle que de tout forcer dans un modèle de conteneur. Les machines virtuelles GPU sont également adaptées aux serveurs qui doivent répondre à des exigences de dimensionnement à la demande, ce qui vous permet d'ajuster les ressources en fonction de l'augmentation de votre charge de travail.

Vous effectuez des analyses comparatives et vous vous souciez de la répétabilité. Lorsque vous voulez « la même forme de machine, le même système d'exploitation, le même outillage, les mêmes résultats », une machine virtuelle constitue une base stable pour les comparaisons. Cela ne supprimera pas toutes les variables comme par magie, mais cela supprimera beaucoup de frictions. Certains utilisateurs peuvent avoir besoin de plusieurs GPU pour effectuer des tâches d'entraînement exigeantes en matière d'IA. Il est donc important d'en tenir compte lors de la planification de vos benchmarks.

Vous voulez des limites d'isolement plus strictes. Les conteneurs peuvent être l'outil idéal, mais une machine virtuelle vous offre un modèle mental de « machine séparée » plus solide, que certaines équipes préfèrent pour la gestion des risques et le confort des locataires multiples.

Lorsqu'ils utilisent des machines virtuelles à processeur graphique, les utilisateurs doivent tenir compte du nombre de processeurs graphiques requis pour leur charge de travail lors de la sélection de la taille de la machine virtuelle. Cela est particulièrement important pour faire évoluer les charges de travail sur les serveurs ou pour prendre en charge des tâches complexes d'IA et d'analyse de données.

Si votre motivation est « Je ne sais pas encore ce dont j'aurai besoin », un contenant est généralement le meilleur point de départ. Vous pourrez changer plus tard lorsque le besoin se fera sentir.

Qui peut ignorer une machine virtuelle GPU

De nombreux travaux d'IA réussis ne nécessitent pas de machine virtuelle.

Ignorez une machine virtuelle GPU si vous exécutez une charge de travail unique qui tient parfaitement dans un conteneur, en particulier si vous souhaitez une configuration rapide et des démarrages reproductibles. Ignorez-le si vous effectuez de courtes expériences et que vous ne souhaitez pas gérer de système d'exploitation. Ignorez-le si votre plus gros problème est « Je veux juste qu'un serveur modèle fonctionne », car c'est là que les instances de conteneurs ont tendance à se sentir le plus facilement.

Si vous êtes actuellement satisfait des conteneurs et que vous n'êtes pas bloqué, ne vous déplacez pas. Les nouvelles options sont utiles, mais elles ne sont pas gratuites.

Comment choisir la taille d'une machine virtuelle GPU sans trop y réfléchir

Les gens se focalisent d'abord sur le nombre de GPU. Le point de départ le plus pratique est généralement la mémoire.

La taille des machines virtuelles GPU est optimisée pour des charges de travail spécifiques, notamment pour les tâches de calcul et de visualisation gourmandes en ressources graphiques. Les utilisateurs peuvent choisir parmi différentes tailles de machines virtuelles classées en différentes familles et types, chacun étant optimisé pour des objectifs spécifiques. Ces tailles de machines virtuelles suivent des conventions de dénomination spécifiques qui indiquent différentes fonctionnalités et spécifications, aidant les utilisateurs à identifier la solution la mieux adaptée à leurs besoins. Différentes tailles de machines virtuelles GPU peuvent être utilisées pour équilibrer les performances et les coûts en fonction des besoins de l'utilisateur, et le choix de la bonne taille peut avoir un impact significatif sur l'efficacité des tâches d'entraînement et d'inférence en matière d'IA. Les charges de travail de formation et d'inférence à grande échelle en matière d'IA, ainsi que les tâches d'ingénierie assistées par ordinateur telles que la CFD, bénéficient de la sélection de la taille de machine virtuelle appropriée, que vous exécutiez des charges de travail personnalisées ou servir Llama 3.1-8B sur ordinateur.. Les utilisateurs peuvent trouver des informations détaillées sur les tailles et les spécifications des machines virtuelles dans la documentation liée.

La VRAM est la plus importante pour l'ajustement du modèle et le débit. Si le modèle ne rentre pas dans la VRAM, tout devient plus lent et plus compliqué. La RAM système est importante lorsque votre charge de travail nécessite de grands ensembles de données en mémoire, des lots plus importants ou un prétraitement plus important. Le processeur est important lorsque vous travaillez beaucoup en dehors du GPU.

En cas de doute, commencez par une plus petite échelle, validez le flux de travail, puis augmentez l'échelle. Il est généralement moins coûteux de passer une seule fois à apprendre que de payer pour une grande machine virtuelle tout en déboguant les bases.

Pour connaître les options GPU actuelles et savoir ce qu'elles font le mieux, utilisez : Types de GPU. Pour une vision axée sur les coûts, cet article est conçu dans ce but : Tarification des machines virtuelles GPU dans le cloud : ce pour quoi vous payez réellement.

Sécurité et protection des données dans les machines virtuelles GPU

Vous avez besoin d'une sécurité et d'une protection des données renforcées lorsque vous exécutez des charges de travail d'IA sur des machines virtuelles dotées d'un processeur graphique. Ces environnements traitent souvent des informations sensibles, qu'il s'agisse d'ensembles de données propriétaires ou de modèles d'apprentissage automatique complexes. L'intégrité et la confidentialité des données sont donc votre priorité absolue.

Des technologies telles que NVIDIA vGPU permettent à plusieurs machines virtuelles de partager en toute sécurité un seul GPU physique. Vous bénéficiez de performances quasi natives et d'une latence minimale pour les infrastructures informatiques hautes performances et de bureaux virtuels. Cette approche vous permet d'optimiser les ressources du processeur graphique tout en maintenant une forte isolation entre les charges de travail. C'est particulièrement important pour les tâches de formation, d'inférence et de calcul scientifique en matière d'IA.

Les fournisseurs de cloud tels que Google Cloud proposent différentes instances de GPU avec des GPU NVIDIA et des GPU AMD. Ils sont conçus pour prendre en charge des charges de travail exigeantes telles que l'apprentissage en profondeur, l'analyse de données et l'IA générative. Les instances GPU sont conçues dans un souci de protection des données et de conformité réglementaire. Cela signifie que vos postes de travail virtuels et vos charges de travail gourmandes en ressources de calcul, telles que le développement de jeux, la recherche médicale et la dynamique des fluides informatique, peuvent fonctionner de manière sécurisée et efficace.

La sécurisation du matériel GPU et des données qu'il traite ne se limite pas à l'infrastructure. Vous et votre équipe devez mettre en œuvre les meilleures pratiques en matière de contrôle d'accès, de chiffrement des données et d'audits de sécurité réguliers. À l'aide d'API et de ressources de support, vous pouvez créer une infrastructure d'IA qui protège les grands ensembles de données et répond aux exigences de conformité. Cela s'applique que vous gériez des opérations commerciales ou des recherches.

Les centres de données hébergeant des machines virtuelles GPU doivent respecter des normes de sécurité strictes. Ils gèrent la bande passante du réseau et le traitement des données pour empêcher tout accès non autorisé et garantir l'intégrité de la charge de travail, à l'instar de la diligence raisonnable que vous devez appliquer lorsque choix d'un fournisseur de calcul distribué.. Un logiciel de niveau professionnel pour les stations de travail virtuelles alimentées par NVIDIA RTX améliore encore la sécurité. Il fournit des performances optimales pour les charges de travail gourmandes en calcul tout en protégeant les données sensibles.

Les cas d'utilisation de l'IA se multiplient et font de plus en plus partie intégrante des opérations commerciales. Cela signifie que le besoin de machines virtuelles GPU sécurisées et d'une infrastructure d'IA résiliente ne cesse de croître, y compris pour les petites et moyennes entreprises qui souhaitent tirer parti Les tendances de l'IA grâce à l'informatique GPU dans le cloud.. Les fabricants de matériel tels que NVIDIA mettent continuellement à jour leur matériel et leurs logiciels GPU pour répondre aux nouveaux défis de sécurité. Cela vous permet de dimensionner en toute confiance vos charges de travail d'IA dans le cloud, avec le soutien d'un écosystème croissant de Les fournisseurs de GPU passent des charges de travail minières aux charges de travail basées sur l'IA..

Lorsque vous donnez la priorité à la sécurité et à la protection des données à chaque niveau, de la machine virtuelle au centre de données, vous pouvez vous concentrer sur la création et le déploiement de puissantes solutions d'IA. Vous saurez que vos données, vos modèles et vos opérations sont protégés contre l'évolution des menaces.

Questions fréquentes

Ai-je toujours besoin d'une machine virtuelle GPU pour l'IA ?

Non. Vous avez besoin d'un GPU lorsque la charge de travail en bénéficie. Vous avez besoin d'une machine virtuelle lorsque le flux de travail nécessite un contrôle au niveau du système d'exploitation. Il s'agit de décisions distinctes. Si vous souhaitez un guide pratique « VM contre conteneur pour le ML », utilisez : Machine virtuelle ou conteneur pour l'apprentissage automatique.

Puis-je exécuter une application Web à partir d'une machine virtuelle GPU ?

Oui, mais planifiez la manière dont vous souhaitez y accéder. Certaines personnes utilisent l'URL d'un navigateur (HTTPS). D'autres le gardent privé via la redirection de port SSH. Cette fiche explicative décrit les options en langage clair : SSH, HTTPS, TCP, UDP : comment exposer un service depuis une machine virtuelle de calcul. Le didacticiel contient les étapes concrètes suivantes : [[Lien vers la documentation : Exposer un service à partir d'une machine virtuelle de calcul : SSH, HTTPS, TCP et UDP]].

Vais-je conserver mes modifications si j'arrête la machine virtuelle ?

Cela dépend des règles de cycle de vie et de la manière dont vous stockez les données importantes. Ne devinez pas. Utilisez cette fiche explicative : Est-ce qu'une machine virtuelle conserve mes modifications ? Explication de la persistance sur le calcul et la page de documentation pour le comportement exact : Démarrer, arrêter et terminer des instances.

Essayez Compute

Si votre flux de travail nécessite un véritable serveur Linux avec un GPU connecté, une machine virtuelle est l'option la plus simple. Commencez petit, faites le plein et redimensionnez lorsque le travail est utile.

‍