Zoom sur le projet de cloud distribué d'Hivenet et d'Inria

En décembre 2022, Hivenet et Inria (Institut français de recherche en informatique et en automatisation) a annoncé un partenariat de quatre ans pour créer un cloud peer-to-peer durable et accessible à tous. Cela a représenté un investissement important de la part de Hivenet, qui a permis de recruter 8 doctorants, post-doctorants et ingénieurs au sein de 4 équipes de projet Inria. Cet article a été publié pour la première fois en février 2025. Il récapitule les travaux accomplis à cette date et présente les questions de recherche que les équipes prévoyaient ensuite d’explorer.

Alvéarium : c'est du latin pour « ruche » !

Il est important de ne pas trop réfléchir au moment de choisir un nom, et c'est dans cette optique que le « challenge » qui a motivé notre partenariat avec Inria a été baptisé Alvéarium, Latin pour ruche. Quand annonce du Défi début 2023, Inria l'a défini en fonction de quatre espaces problématiques (voir Tableau 1 ci-dessous) et a fixé les objectifs généraux comme suit : « proposer... un Cloud souverain et performant capable de répondre aux besoins de stockage des utilisateurs aussi efficacement que les fournisseurs existants, tout en respectant la confidentialité et la sécurité de leurs données ». Si vous suivez Hivenet et ce que nous faisons, vous verrez que cela correspond à la mission de notre entreprise.

^{Tableau 1 : les quatre problématiques qui sous-tendent le Challenge d'Inria et Hivenet}

Beaucoup de choses se sont passées ces deux dernières années depuis les thèmes de Tableau 1 ont été définis. En mai 2024, l'équipe a participé Pour 3 S à Paris pour faire le point sur les travaux visant à quantifier la performance de Codes d'effacement dans les systèmes de stockage poste à poste. Plus récemment, en décembre 2024, l'équipe R&D de Hivenet a présenté au Forum PEPR Cloud à Grenoble, pour présenter le travail remarquable réalisé pour réaliser nos services de stockage et de calcul distribués. Plus tard en décembre, l'équipe a partagé ses conclusions concernant un nouveau protocole de messagerie sécurisé pour les environnements distribués : »DiscreT : service de distribution distribué avec coopération contextuelle. » L'article : 1) a démontré une nouvelle approche efficace des communications cryptées dans un environnement dynamique hautement évolutif comme celui de Hivenet ; 2) a résumé les recherches de suivi visant à évaluer en profondeur les performances et la sécurité du mécanisme proposé et à formaliser les propositions.

À propos des codes d'effacement : nous n'entrerons pas dans les détails dans cet article, mais sachez simplement que les codes d'effacement sont une technique de protection des données qui divise les données en morceaux et les code de manière à pouvoir les réassembler dans leur forme d'origine sans que toutes les pièces soient disponibles. Plus précisément, Hivenet utilise Encodage Reed-Solomon.

En 2025, les travaux sur Alvearium se sont poursuivis et, le 14 février, lors du World AI Cannes Festival (WAICF), Hivenet et Inria ont officiellement lancé un nouveau défi, Cupseli. Le nom Cupseli vient de Κυψέλη, qui signifie « ruche » en grec ancien, et correspond également à l’acronyme Collaborative Unified Platform for a Scalable and Efficient Learning Infrastructure.

Cupseli est désormais en cours. Ce programme de quatre ans se déroule de septembre 2025 à août 2029 et réunit Hivenet et 11 équipes de recherche Inria. Il étudie comment des applications exigeantes d’IA et de Big Data peuvent fonctionner efficacement et en toute sécurité sur des ressources hétérogènes, distribuées et volatiles, tout en préservant la précision et la confidentialité et en réduisant l’impact environnemental. Les travaux de recherche propres à Hivenet se sont poursuivis en parallèle. La section suivante décrit Chat with Hivenet tel qu’il existait lors de la publication initiale de cet article.

Figure 1 : sièges au premier rang de la WAICF pour la cérémonie de signature de Cupseli [source : Inria]

Discutez avec Hivenet : une approche distribuée du chat IA

Vous êtes probablement déjà bien conscient de l'impact de ChatGPT et d'autres outils similaires sur l'évolution du service client, de l'assistance, du marketing et d'autres interactions commerciales clés. Eh bien, Hivenet étant Hivenet, bien que nous reconnaissions le vaste potentiel de l'IA, nous restons sceptiques quant à la centralisation de cette technologie sous le contrôle de grands monopoles, qui sont de plus en plus alignés sur les objectifs des États. Sans surprise, nous avons adopté une approche différente : nous avons créé un chat IA interne, un Génération augmentée par récupération (RAG), pour alimenter la gestion interne des connaissances d'Hivenet. Le RAG dans l'IA générative est un moyen de garantir que les réponses des LLM sont fondées sur des informations pertinentes et à jour, réduisant ainsi les résultats inappropriés ou hallucinés. Nous ingérons nos documents, nos connaissances, nos discussions, etc. dans le système et les combinons avec la sortie des LLM (par exemple, Lama 3.3-70B, QWEN2-VL-7b, et Mistral) fonctionnant sur le service de calcul distribué de Hivenet. Veuillez vous référer à Figure 1 ci-dessous pour un aperçu de haut niveau de l'architecture de HiveGPT.

À propos des conventions de dénomination des modèles : lorsque vous voyez (par exemple) « 70B » ou « 7B » dans le nom d'un modèle, cela décrit le nombre de paramètres (ou de poids) que possède le modèle, « B » représentant « milliard ».

En termes simples, paramètres sont des nombres d'un modèle qui peuvent être utilisés pour ajuster sa précision. Par exemple, le modèle Llama 3.3-70B contient 70 milliards de paramètres. Il est important de noter qu'un plus grand nombre de paramètres ne signifie pas toujours « meilleur ». Le nombre de paramètres peut plutôt être interprété comme une mesure de la « complexité » du modèle, qui doit être mise en balance avec le coût informatique de la formation. Un modèle plus petit entraîné sur des données de haute qualité peut être plus efficace qu'un modèle plus grand.

^{Figure 2 : architecture de haut niveau pour Chat avec Hivenet}

L'exécution de l'inférence par IA dans un environnement distribué n'est pas une nouveauté. Par exemple, des frameworks tels que Pétales et VllM existent pour y parvenir, et Chat with Hivenet exploite vLLM, un choix fait en raison de son haut débit et de sa support pour les API OpenAI. Cependant, nous tenons à préciser qu'il n'a pas été construit « sur étagère » et notre équipe de recherche fait face à de sérieux défis techniques. Tout d'abord, Hivenet est une plate-forme distribuée où les ressources peuvent prendre différentes formes et tailles ; par exemple, les GPU sont dotés de différentes quantités de RAM. En attendant, vLLM nécessite la même mémoire pour toutes les cartes, ce que notre solution doit contourner. Deuxièmement, tous les systèmes distribués ne sont pas répartis de la même manière : contrairement à certains scénarios, les ressources de Hivenet peuvent exister dans des zones géographiques couvrant plusieurs continents. Dans la pratique, cela met à rude épreuve les performances et la latence du réseau, ce qui est essentiel pour de nombreux cas d'utilisation d'inférence.

Lors de la publication initiale de cet article, le système offrait des performances acceptables pour les besoins internes de Hivenet, mais la distribution du réseau et la latence restaient des questions de recherche ouvertes. Cupseli étudie désormais ces contraintes plus larges du calcul distribué, notamment les communications, la tolérance aux pannes et les performances sur des ressources hétérogènes et volatiles.

À cette date, le déploiement d’un modèle de 405 milliards de paramètres, tel que Llama 3.1 405B, constituait la prochaine expérimentation prévue par l’équipe. Cette phrase décrit un objectif de R&D de 2025 et ne constitue pas un engagement produit actuel.

Lors de la publication initiale de cet article, Chat with Hivenet était encore un prototype interne de R&D exécuté sur la plateforme de calcul distribué de Hivenet. L’architecture décrite ici est conservée à titre historique et ne doit pas être interprétée comme un engagement produit actuel.

Nous espérons que cet aperçu des travaux de recherche de Hivenet et d’Inria vous a été utile. Pour obtenir des informations à jour sur Cupseli, consultez les ressources du projet publiées par Inria. Vous pouvez également nous contacter si vous avez des questions.