GPU Blackwell B200 pour l'IA générative - NVIDIA GTC 2024
L'intelligence artificielle générative (IA générative) est actuellement le sujet le plus en vogue dans le secteur technologique, l'IA centrée sur de vastes modèles de langage s'imposant dans presque tous les domaines. Quelle transformation connaîtra ensuite l'industrie des semi-conducteurs ? Portées par l'engouement pour l'IA, les géants de la tech rivalisent pour conquérir ce nouveau marché. Fournir la puissance de calcul nécessaire pour répondre aux nouvelles exigences de l'IA générative est essentiel, et c'est précisément ce que fait NVIDIA.
En 15 mois, la capitalisation boursière de NVIDIA a été multipliée par six pour dépasser les 2 200 milliards de dollars américains, faisant d'elle la troisième entreprise technologique mondiale après Apple et Microsoft, et sa croissance se poursuit. Afin de consolider sa position de fournisseur privilégié des entreprises spécialisées en intelligence artificielle, NVIDIA a présenté lors de la GTC 2024 une nouvelle génération d'architecture GPU Blackwell dédiée à l'exécution de modèles d'intelligence artificielle. Par ailleurs, l'entreprise entend développer davantage sa chaîne de valeur en aval grâce à NIM et Omniverse.
Dans son discours d'ouverture de deux heures, Jensen Huang, fondateur de NVIDIA, a présenté au monde entier le nouveau moteur de NVIDIA : matériel, logiciels et services reposant sur la nouvelle architecture informatique.
• La nouvelle architecture GPU Blackwell et la « Superchip » GB200 offriront des performances d'entraînement quatre fois supérieures à celles de Hopper, avec des paramètres de modèle importants atteignant le niveau du billion.
• Le logiciel innovant NIM facilite la personnalisation des modèles de grande taille sur la plateforme NVIDIA pour les entreprises.
• Omniverse Cloud intègre la formation et l'application de la robotique, de la conduite autonome et des jumeaux numériques sur une seule plateforme.
• Logiciel de développement de modèles personnalisés Nemo et AI Factory.
Carte graphique Blackwell B200 et GB200
Blackwell tire son nom du mathématicien David Harold Blackwell. Il s'agit d'une architecture GPU de nouvelle génération succédant à l'architecture Hopper. La GB200 est la première puce basée sur l'architecture Blackwell et sera disponible d'ici la fin de l'année.
Les GPU Blackwell seront disponibles en tant que GPU autonomes, ou deux GPU Blackwell pourront être combinés et associés au processeur Grace de Nvidia pour créer une Superchip, la GB200.
Le GB200 connecte deux GPU B200 au processeur Grace via une interconnexion inter-puces à très faible consommation de 900 Go/s. Nvidia indique que le système peut exécuter des modèles comportant 27 000 milliards de paramètres. Le CPT-4, quant à lui, posséderait 1 700 milliards de paramètres.
Pour atteindre des performances d'IA ultra-élevées, les systèmes équipés du GB200 peuvent se connecter aux plateformes NVIDIA Quantum-X800 InfiniBand et Spectrum-X800 Ethernet. Ces deux plateformes offrent une connectivité réseau haute performance jusqu'à 800 Gbit/s.
Nvidia affirme que le GB200 offre une amélioration de 30 fois des performances pour les charges de travail d'inférence par rapport au GPU H100 actuel.
De plus, Nvidia a également lancé le GB200 NVL72 à refroidissement liquide.DIRIGÉ Le système de rack GB200 NVL72 est composé de 36 unités centrales Grace et de 72 unités graphiques Blackwell. Sa puissance de calcul d'inférence atteint 1 440 PFLOPS et son débit maximal 260 To/s. De plus, sa puissance de calcul d'entraînement en précision FP8 atteint 720 PFLOPS, soit l'équivalent d'un supercalculateur.
Le GPU Blackwell et la puce GB200 seront intégrés à la plateforme cloud NVIDIA DGX B200 pour l'entraînement, l'optimisation et l'inférence des modèles. Toutes les plateformes NVIDIA DGX incluent le logiciel NVIDIA AI Enterprise pour le développement et le déploiement en environnement d'entreprise.
Jensen Huang a déclaré que Nvidia prévoit d'utiliser Blackwell pour pénétrer à l'avenir le marché des entreprises d'intelligence artificielle dans le monde entier et signer des contrats avec tous les équipementiers, les clouds régionaux, les agences nationales d'IA souveraines et les entreprises de télécommunications.
Amazon, Dell, Google, Meta, Microsoft, OpenAI et Tesla ont tous prévu d'utiliser des GPU Blackwell.
NIM (Microservice d'inférence Nvidia)
Si une entreprise souhaite utiliser un modèle complexe, elle a généralement besoin d'un paramétrage précis et d'un déploiement privé pour répondre à ses besoins. Lors de cette conférence, Nvidia a lancé son service de personnalisation de modèles, NIM (Nvidia Inference Microservice).
Tout d'abord, ce boîtier numérique propose différents modèles compatibles, notamment des modèles open source comme Llama, développés par ses partenaires. D'après NVIDIA, ces modèles ont été optimisés pour le matériel NVIDIA. Qu'il s'agisse d'un ordinateur portable avec un seul processeur ou d'une configuration professionnelle avec plusieurs GPU, les deux sont compatibles.
De plus, elle permet aux utilisateurs d'affiner des modèles complexes. Par exemple, la technologie NVIDIA NeMo Retriever, annoncée par NVIDIA en novembre 2023, est intégrée à l'ensemble du microservice et permet aux entreprises d'activer les fonctions RAG. Par ailleurs, elle inclut également un outil Lemo Retriever pour faciliter la recherche d'informations, des microservices dédiés à la création d'humains numériques, et bien plus encore.
Dans le domaine médical, NVIDIA a lancé 25 nouveaux microservices basés sur des scénarios médicaux afin d'aider les entreprises de santé du monde entier à améliorer leur efficacité grâce à l'IA générative. Ces microservices comprennent divers modèles de découverte de médicaments, notamment MoIMIM pour la chimie générative, ESMFold pour la prédiction de la structure des protéines et DiffDock pour aider les chercheurs à comprendre comment les molécules médicamenteuses interagissent avec leurs cibles.
Les entreprises du secteur de la santé peuvent utiliser ces microservices pour analyser des milliards de composés médicamenteux, collecter davantage de données sur les patients afin de faciliter la détection précoce des maladies ou mettre en œuvre des assistants numériques plus intelligents, entre autres.
NVIDIA a donné l'exemple de ses microservices capables d'accélérer de plus de 50 fois l'identification des variants dans un flux de travail d'analyse génomique, comparativement à une exécution sur un processeur. Certaines start-ups ont développé une plateforme de dialogue clinique médical basée sur l'intelligence artificielle. Cette plateforme permet de dialoguer avec les patients par téléphone pour organiser des rendez-vous, des consultations préopératoires, le suivi post-hospitalisation, etc., ce qui contribuera grandement à atténuer la pénurie de personnel et à améliorer la prise en charge des patients. Elle permet également aux cliniciens de gagner jusqu'à trois heures de travail.
Actuellement, près de 50 fournisseurs d'applications à travers le monde utilisent les microservices médicaux de NVIDIA.
Omniverse - Entrepôt numérique et robots
Omniverse est une plateforme véritablement unifiée pour l'infographie, l'intelligence artificielle, le calcul technologique et la simulation physique, domaines dans lesquels NVIDIA excelle. Elle permet de créer un jumeau numérique à l'échelle 1:1 de l'environnement. NVIDIA a développé Isaac Lab, une application d'apprentissage robotique conçue pour l'entraînement sur le simulateur Omniverse Isaac. Grâce à de nouveaux services d'orchestration de calcul, les robots peuvent être entraînés dans des simulations physiques et transférés instantanément vers des environnements réels.
Jensen Huang a annoncé le projet GR00T, un modèle de base général pour les robots humanoïdes destiné au développement de robots de production basés sur Jetson Thor.
NVIDIA a également présenté un exemple d'entrepôt numérique : un environnement de simulation Omniverse pour un entrepôt de 100 000 pieds carrés, qui intègre des vidéos en cours d'exécution, des robots mobiles autonomes (AMR) de travailleurs numériques avec la pile de perception Isaac et une carte d'activité centralisée de l'ensemble de l'entrepôt à partir de 100 caméras simulées montées au plafond.
Dans la vidéo, lorsqu'un robot mobile autonome (AMR) rencontre un obstacle sur son itinéraire, NVIDIA Metropolis recalcule sa trajectoire en temps réel. Grâce au modèle de vision génératif basé sur l'IA de Metropolis, les opérateurs peuvent même interroger le système en langage naturel pour mieux comprendre la situation.
NVIDIA a annoncé la création d'une API pour Omniverse Cloud, qui sera très conviviale et dotée de capacités d'intelligence artificielle. Par exemple, elle pourra générer des images 3D d'environnements de simulation directement à partir de descriptions de scènes en langage naturel.
Par ailleurs, NVIDIA a annoncé un partenariat avec Vision Pro, permettant à Omniverse Cloud de diffuser du contenu vers Vision Pro.
Plateforme informatique embarquée DRIVE Thor
Comparé à la génération précédente DRIVE Orin, DRIVE Thor offrira des performances de cockpit autonome plus riches en fonctionnalités. Il intègre la nouvelle architecture NVIDIA Blackwell, spécialement conçue pour les charges de travail Transformer, LLM et d'IA générative.
La collaboration entre BYD et NVIDIA s'étend du secteur automobile au cloud. Outre le développement de sa prochaine génération de flottes de véhicules électriques sur la plateforme DRIVE Thor, BYD prévoit également d'utiliser l'infrastructure d'IA de NVIDIA pour ses technologies de développement et d'entraînement d'IA dans le cloud. Des constructeurs comme GAC et XPeng ont également annoncé leur intention d'utiliser la plateforme informatique embarquée DRIVE Thor.
Applications de communication et de climat - Plateforme cloud de jumeau numérique
Dans le secteur des communications, NVIDIA a lancé une plateforme cloud de recherche 6G. Grâce à cette plateforme, les entreprises de télécommunications peuvent simuler avec précision le terrain et les infrastructures, améliorant ainsi la fiabilité des transmissions sans fil. Parmi ses partenaires figurent Nokia et Samsung.
De plus, NVIDIA a lancé Earth-2, une plateforme cloud de jumeaux numériques climatiques permettant de simuler et de visualiser les conditions météorologiques. Contrairement aux modèles traditionnels basés sur le processeur, Earth-2 fournit aux utilisateurs des alertes et des prévisions actualisées beaucoup plus rapidement, en quelques secondes seulement. Par ailleurs, les images climatiques qu'elle génère présentent une résolution 12,5 fois supérieure à celle des modèles numériques actuels, sont 1 000 fois plus rapides et 3 000 fois plus économes en énergie, corrigeant ainsi les imprécisions des prévisions à faible résolution.
Jensen Huang a également présenté des cas d'utilisation concrets. Par exemple, le Bureau central de météorologie de Taïwan prévoit d'utiliser ce modèle pour prédire avec plus de précision le point d'impact des typhons, afin d'évacuer les populations plus tôt et de réduire le nombre de victimes.
NVIDIA a également annoncé que le nouveau supercalculateur japonais ABCI-Q bénéficiera des plateformes d'accélération et de calcul quantique NVIDIA. Ce supercalculateur, composé de plus de 2 000 GPU NVIDIA H100 répartis sur plus de 500 nœuds, est la seule plateforme de calcul en réseau entièrement déportable au monde et son déploiement est prévu pour début 2024.
À l'heure actuelle, où l'intelligence artificielle générative représente l'avenir, chacun souhaite suivre la tendance. Lors de la conférence GTC 2024, plus de 10 000 personnes ont assisté en direct à la conférence inaugurale, qui comptait plus de 900 sessions et une centaine d'exposants. Outre Apple, NVIDIA est l'une des rares entreprises capables de rendre la technologie accessible à tous. En phase avec les tendances actuelles, NVIDIA fournit la puissance de calcul nécessaire à l'IA de demain, mais elle en devient également la principale bénéficiaire et devrait devenir l'entreprise affichant la plus forte capitalisation boursière au monde.