Puces d'intelligence artificielle : fonctionnement et vocabulaire

Les puces d'intelligence artificielle sont des processeurs, ou des éléments spécialisés de processeurs, utilisés pour exécuter les calculs de l'apprentissage automatique. Certaines ont été conçues pour les réseaux de neurones ; d'autres, dont les GPU et les CPU, servent aussi à de nombreux autres calculs. Elles exécutent les opérations d'un modèle d'IA : l'intelligence n'est pas une propriété physique stockée dans la puce.

Les noms peuvent prêter à confusion parce qu'ils décrivent des choses différentes. GPU désigne une architecture de processeur, NPU une fonction de traitement neuronal, et ASIC une puce conçue pour une application particulière. Un TPU est à la fois un accélérateur d'IA et un ASIC. Ces catégories se recoupent.

Ce guide explique la technologie et son vocabulaire. Pour choisir un matériel en fonction d'une charge de travail, consultez notre guide pratique des accélérateurs d'IA et les exigences logicielles du modèle.

Ce que change la conception d'une puce d'IA

De nombreuses charges d'IA, dont l'apprentissage profond, consistent à multiplier et à additionner de grands ensembles de nombres. Les puces d'IA spécialisées peuvent accélérer ce travail grâce au traitement parallèle, à des unités arithmétiques spécialisées et à la proximité des données. La combinaison utile dépend du modèle et de son exécution.

La spécialisation a ses limites. Une puce peut exécuter efficacement une opération matricielle prise en charge pendant qu'une autre partie de l'application attend des données, utilise le CPU ou réclame une opération non disponible. C'est le programme complet qui détermine l'intérêt de l'accélérateur.

Il serait également inexact d'opposer des CPU séquentiels à des puces d'IA parallèles. Les CPU modernes disposent de plusieurs cœurs et d'instructions vectorielles, et certains intègrent une accélération matricielle. La présentation des processeurs d'IA d'Intel inclut les CPU, les accélérateurs séparés et les circuits spécialisés. Toute application d'IA n'exige donc pas un accélérateur distinct.

Les algorithmes d'IA restent logiciels : une même architecture peut exécuter de nombreux modèles compatibles. Les développeurs doivent comprendre ce que le matériel accélère, sans avoir à concevoir leurs propres puces pour l'utiliser. La conception d'une puce est un travail d'ingénierie distinct du développement d'un modèle. Utiliser des outils d'IA pour aider à concevoir une puce constitue encore un autre sujet.

Comment fonctionnent les puces d'IA, de l'entrée au résultat

1. L'application transforme une entrée en nombres

Une photo, un enregistrement audio ou une requête textuelle doit être représenté numériquement avant son traitement par un réseau de neurones. Le logiciel prépare l'entrée sous la forme attendue par le modèle. Un tenseur est simplement un tableau de valeurs, éventuellement à plusieurs dimensions ; ce terme ne désigne pas une marque de puce.

Pour un modèle d'image, ces valeurs peuvent décrire des pixels. Pour un modèle de langage, un logiciel de tokenisation transforme d'abord le texte en jetons, que le modèle représente par des vecteurs numériques. La préparation des données et l'ordonnancement peuvent solliciter le CPU même lorsque l'accélérateur effectue l'essentiel des calculs neuronaux.

2. Les unités de calcul combinent les entrées et les poids du modèle

Les poids sont des paramètres numériques appris pendant l'entraînement. Un petit calcul peut multiplier les entrées 2 et 3 par les poids 0,5 et −1, puis additionner les produits : (2 × 0,5) + (3 × −1) = −2. Les réseaux de neurones réels effectuent des ensembles bien plus vastes d'opérations similaires, ainsi que des transformations comme les fonctions d'activation et la normalisation.

Les unités matricielles réalisent ensemble de nombreuses multiplications et additions. Elles n'ont pas besoin de reproduire la structure physique d'un cerveau. La documentation de Google sur l'architecture TPU décrit, par exemple, des unités arithmétiques reliées qui se transmettent les valeurs dans un réseau de traitement matriciel.

3. La mémoire et le logiciel alimentent les calculs

Le matériel doit recevoir au bon moment les poids du modèle, les valeurs d'entrée et les résultats intermédiaires. Le stockage local à la puce peut limiter les transferts répétés, tandis qu'une mémoire plus grande conserve les données qui n'y tiennent pas. Une unité arithmétique rapide sert peu lorsqu'elle attend les valeurs suivantes.

Le compilateur et l'environnement d'exécution traduisent les opérations du modèle en travail pris en charge par le matériel. Ils peuvent regrouper des opérations, choisir les formats numériques et décider où chaque partie s'exécute. Les résultats reviennent ensuite au reste de l'application, qui peut afficher une classification, générer du texte ou déclencher une autre étape.

Les types de puces d'IA et leurs recoupements

Terme	Ce qu'il décrit	Précision importante
CPU	Processeur polyvalent chargé de la logique applicative, de la préparation des données et de calculs d'IA	Peut exécuter seul des modèles ; ses capacités dépendent du processeur et du logiciel
GPU	Architecture de processeur adaptée à un travail largement parallèle	Sert à l'entraînement et à l'inférence, ainsi qu'au graphisme et à d'autres calculs
NPU	Unité de traitement neuronal optimisée pour les opérations des réseaux de neurones	Peut appartenir à une puce plus vaste ; le nom ne définit pas une architecture unique
TPU	Famille Tensor Processing Unit de Google	Famille particulière d'ASIC pour l'IA, et non nom générique de toute puce traitant des tenseurs
ASIC	Circuit intégré propre à une application	Catégorie de conception large ; un ASIC d'IA peut exécuter différents modèles compatibles
FPGA	Circuit à logique programmable après fabrication	Permet de construire des chaînes de traitement personnalisées avec des outils d'ingénierie adaptés

CPU et GPU se partagent le travail

Le CPU exécute le système d'exploitation et le code général de l'application. Dans un service d'IA, il peut assurer l'acheminement des requêtes, la tokenisation, l'accès au stockage et le post-traitement. Il peut aussi convenir à l'inférence lorsque le modèle et le temps de réponse attendu correspondent à ses capacités.

Les processeurs graphiques disposent de nombreuses ressources d'exécution pour le travail parallèle. Les GPU modernes peuvent aussi intégrer des unités matricielles spécialisées. Leur intérêt dépasse l'entraînement : un même GPU peut servir un modèle, générer des images ou effectuer des calculs scientifiques avec les logiciels compatibles. La comparaison CPU et GPU d'Intel explique cette différence d'architecture sans établir de supériorité universelle.

Un NPU peut déjà se trouver dans un appareil

Une unité de traitement neuronal peut être intégrée avec des composants CPU et GPU dans un système sur puce, ou SoC. C'est courant dans les téléphones et les ordinateurs portables, mais les NPU ne se limitent pas aux appareils grand public. La présentation des NPU d'IBM décrit des versions intégrées aux appareils et du matériel distinct pour les centres de données.

La présence d'un NPU ne signifie pas que toutes les fonctions d'IA l'utilisent. L'application, les opérations du modèle, les formats pris en charge et l'environnement d'exécution déterminent les unités sollicitées. Le nom NPU ne garantit pas non plus qu'un modèle tiendra en mémoire.

ASIC et FPGA correspondent à deux formes de spécialisation

Un ASIC possède un matériel conçu pour une application ou une catégorie de travail. Ses circuits sont fixes après fabrication, mais les poids du modèle ne sont pas nécessairement figés et il peut exécuter plusieurs réseaux de neurones. Les opérations disponibles et l'interface logicielle déterminent sa souplesse.

Un FPGA permet de configurer sa logique et ses connexions après fabrication. Il peut ainsi proposer un chemin de données, un format numérique ou une connexion à des capteurs sur mesure. Le développement diffère de l'installation d'un autre programme sur GPU. Notre comparaison des FPGA et des GPU détaille ces compromis d'ingénierie.

L'entraînement et l'inférence sollicitent différemment le matériel

Pendant l'entraînement, un modèle traite des exemples, compare son résultat à un objectif et met à jour ses paramètres. Un entraînement classique de réseau de neurones comprend une propagation avant, le calcul des gradients et une étape d'optimisation. L'ajustement fin, ou fine-tuning, modifie également des paramètres, parfois seulement une partie d'entre eux.

L'inférence utilise un modèle entraîné pour produire un résultat à partir d'une nouvelle entrée. Elle ne met normalement pas à jour ses poids. Cela n'en fait pas une tâche légère ou uniforme : servir un grand modèle à de nombreux utilisateurs impose d'autres contraintes que reconnaître un objet sur une caméra.

Les expressions « puce d'entraînement » et « puce d'inférence » décrivent des usages prévus, sans établir une frontière absolue. AWS présente explicitement Trainium pour l'entraînement et l'inférence, tandis que sa famille Inferentia vise l'inférence. La génération du produit et sa prise en charge logicielle comptent davantage qu'une déduction fondée sur son nom.

Pourquoi la mémoire compte autant que le calcul

La capacité mémoire détermine la quantité de données stockable. La bande passante mémoire décrit la vitesse de transfert. Un appareil peut avoir assez de capacité pour un modèle et passer pourtant une grande partie de son temps à déplacer les poids plutôt qu'à calculer.

Prenons un exemple simple : sept milliards de paramètres stockés sur deux octets chacun nécessitent 14 milliards d'octets, soit 14 Go en unités décimales, pour les seuls poids. Avec quatre bits par paramètre, le calcul brut donne 3,5 Go. Aucun de ces chiffres ne constitue le besoin mémoire complet à l'exécution : métadonnées de quantification, tampons de travail, activations et caches d'attention peuvent s'y ajouter. L'entraînement exige aussi des états supplémentaires.

Une précision réduite peut limiter le stockage et les transferts, mais le modèle, les noyaux de calcul et le matériel doivent la prendre en charge. La qualité doit être contrôlée après conversion. Un fichier de modèle plus petit ne prouve ni une exécution plus rapide ni une qualité inchangée.

Le guide de performance de NVIDIA distingue les limites liées au calcul, à la bande passante mémoire et à la latence. Deux modèles exécutés sur le même accélérateur peuvent donc atteindre des fractions très différentes de sa performance maximale annoncée.

Le logiciel détermine les capacités réellement utilisables

Un modèle d'IA n'est pas automatiquement portable parce que deux puces acceptent le même format numérique. Vérifiez la version du framework, l'environnement d'exécution, les opérateurs disponibles, les pilotes et la procédure de conversion du modèle. Selon le logiciel, une opération manquante peut provoquer un échec, utiliser une solution plus lente ou être exécutée sur un autre processeur.

Par exemple, AWS Neuron fournit des outils pour le matériel d'IA spécialisé d'AWS. Cette couche logicielle fait partie du déploiement ; elle ne peut pas être négligée après le choix de la puce.

Consignez l'environnement lorsque vous comparez les performances. Un résultat obtenu avec un runtime, une taille de lot ou une version de modèle peut ne pas se reproduire dans d'autres conditions. Avant de changer de matériel, vérifiez si le système attend le stockage, la préparation des données ou une correction de configuration logicielle.

Les fabricants de puces d'IA : conception, fabrication et assemblage

NVIDIA et AMD conçoivent des GPU utilisés pour l'IA. Les TPU de Google ainsi que Trainium et Inferentia d'AWS sont des exemples de familles d'accélérateurs cloud spécialisés. Apple et Intel intègrent des capacités de traitement neuronal dans des plateformes grand public. Ces entreprises visent différents marchés ; il ne s'agit ni d'un classement ni d'une liste exhaustive.

AMD Instinct, par exemple, est une famille de GPU pour centres de données couvrant notamment l'entraînement et l'inférence. Concurrencer NVIDIA ne signifie pas nécessairement proposer un appareil interchangeable : mémoire, logiciels, interconnexions et possibilités de déploiement se comparent séparément.

L'industrie des puces d'IA comprend des activités distinctes : conception, fabrication des tranches de silicium, production de mémoire, assemblage en boîtier et exploitation cloud. Une entreprise peut concevoir un processeur qu'une autre fabrique. TSMC se présente comme une fonderie de semi-conducteurs dédiée, qui fabrique des produits pour ses clients.

Les puces logiques effectuent les calculs et les opérations de contrôle ; les puces mémoire stockent les données. Les systèmes d'IA ont besoin de ces deux fonctions, que les composants se trouvent dans des boîtiers distincts ou réunis dans un assemblage. La fabrication des semi-conducteurs et l'assemblage des systèmes rendent ces conceptions utilisables. Le nom figurant sur un accélérateur n'identifie donc pas toutes les entreprises ayant participé à sa production.

La mise en boîtier compte également. Un processeur fini peut contenir plusieurs circuits de silicium, et les boîtiers avancés permettent de relier étroitement différents composants. Les technologies 3DFabric de TSMC illustrent l'empilement et l'assemblage avancé. Le mot « puce » dans une annonce peut donc désigner un ensemble plus complexe qu'un seul morceau de silicium.

La chaîne d'approvisionnement des semi-conducteurs et le fournisseur de service influencent tous deux la disponibilité. L'annonce d'un processeur ne prouve pas qu'une configuration serveur précise est livrable ou qu'une région cloud possède la capacité nécessaire. Confirmez le produit, les logiciels pris en charge, la date de livraison ou la disponibilité des instances, et les conditions de support.

Où utilise-t-on les puces d'IA ?

Les applications d'IA dans les centres de données

Dans les centres de données, les puces accélératrices peuvent entraîner des modèles, exécuter des systèmes de recommandation, traiter des images et servir des modèles d'IA générative. Le système autour de la puce apporte le réseau, le stockage, l'alimentation, le refroidissement et les moyens de reprise après une panne matérielle ou logicielle.

L'IA en périphérie et les appareils connectés

Avec l'IA en périphérie, ou edge AI, le traitement se déroule sur l'appareil qui collecte les données ou à proximité. Cela peut être le traitement vocal sur un téléphone, l'inspection visuelle près d'une chaîne de production ou la reconnaissance d'images sur une caméra. La consommation, la chaleur, la connectivité et le temps de réponse peuvent primer sur la puissance de calcul maximale. Une application devant fonctionner sans connexion Internet doit disposer localement du modèle et des capacités de traitement nécessaires.

Les recherches d'Apple sur le déploiement de modèles sur le Neural Engine décrivent l'utilisation combinée du CPU, du GPU et du Neural Engine par Core ML. Cet exemple montre comment plusieurs moteurs de calcul coopèrent dans un appareil.

L'exécution locale peut réduire le besoin d'envoyer les entrées à un service distant, mais la présence d'une puce d'IA ne garantit pas la confidentialité. Une application peut toujours transmettre des données, des journaux ou des résultats. Vérifiez les flux réels et les paramètres plutôt que de déduire la confidentialité du nom du matériel.

Comment lire les annonces de performance du matériel d'IA

Les TOPS et les FLOPS décrivent des débits d'opérations dans des conditions précises. Ils n'indiquent pas directement la rapidité de réponse d'une application ni la qualité de son résultat. La précision, les hypothèses de parcimonie, la taille du lot et les opérations comptabilisées influencent la comparaison.

Pour les grands modèles de langage, examinez le délai avant le premier jeton, la vitesse de génération et le comportement sous des requêtes simultanées. Pour l'entraînement, mesurez la progression vers la qualité attendue autant que la durée. Pour une caméra, mesurez le temps de réponse et la qualité de détection dans des conditions représentatives. Notre guide des TOPS, FLOPS et performances d'IA explique ces indicateurs.

Les résultats MLPerf Inference apportent un contexte standardisé de charges et de scénarios. Lisez les détails des soumissions et la configuration des systèmes avant de comparer : un test du système complet ne mesure pas une puce isolée.

Les affirmations d'efficacité énergétique nécessitent aussi une unité de travail définie. Comparez l'énergie pour une même tâche à qualité acceptable et précisez si la mesure couvre l'accélérateur, le serveur ou l'ensemble du site. Une puissance électrique plus faible ne garantit pas moins d'énergie par tâche terminée si l'exécution dure plus longtemps.

Accéder au matériel d'IA avec Compute with Hivenet

Compute with Hivenet fournit des instances GPU et CPU pour l'expérimentation sur les modèles, l'inférence, l'ajustement fin et le calcul général. La location donne accès au matériel existant sans acheter ni installer de serveur physique.

Un modèle et un environnement logiciel compatibles restent nécessaires. Votre équipe administre le système d'exploitation, les frameworks, les dépendances et la charge de travail sur l'instance. Confirmez la configuration disponible et le prix actuel dans la console, puis testez avec vos données. L'accès à un accélérateur ne garantit à lui seul ni une vitesse, ni une économie, ni une qualité de modèle donnée.

Questions fréquentes sur les puces d'IA

Les puces d'IA diffèrent-elles des puces informatiques classiques ?

Certaines comportent des unités spécialisées dans les calculs neuronaux, mais il n'existe pas de frontière nette. Les CPU peuvent intégrer de l'accélération d'IA, les GPU exécutent de nombreuses tâches sans rapport avec l'IA, et un même boîtier peut réunir plusieurs types de moteurs de calcul.

Toute application d'IA exige-t-elle un GPU ou un NPU ?

Non. Partez des exigences de l'application et d'une mesure de référence. Un CPU peut suffire. Le matériel spécialisé devient utile lorsque ses opérations, sa capacité, sa vitesse ou ses caractéristiques énergétiques répondent à une contrainte réelle.

Une puce d'IA est-elle programmée définitivement pour un modèle ?

Généralement non. Une architecture matérielle fixe peut charger différents poids et exécuter plusieurs calculs compatibles. Changer de modèle logiciel est une opération distincte de la reconception ou de la reconfiguration des circuits physiques.

Combien coûte une puce d'IA ?

Identifiez d'abord ce qui est chiffré : un composant intégré à un appareil, une carte accélératrice, un serveur complet ou du temps de calcul loué. Ce sont des achats différents. Comparez une configuration précise, prise en charge, et ses coûts d'exploitation plutôt que d'appliquer une fourchette unique à toute la catégorie.