生成AI向けBlackwell B200 GPU - NVIDIA GTC 2024

生成型AIは現在、テクノロジー業界で最も注目されているトピックであり、大規模言語モデルを中心としたAIはほぼすべての分野に広がりつつあります。チップ業界は次にどのような変革を遂げるのでしょうか？AIブームに後押しされ、大手テクノロジー企業はこぞってこの新たな市場の獲得を目指しています。生成型AIの新たなニーズを満たすための計算能力を提供することが最も重要な要素であり、まさにNVIDIAがそれを実現しようとしています。

わずか15ヶ月で、NVIDIAの時価総額は6倍に急上昇し、2.2兆米ドルを超え、AppleとMicrosoftに次ぐ世界第3位のテクノロジー企業となり、その成長は今も続いている。人工知能企業にとって最適なサプライヤーとしての市場地位を確固たるものにするため、NVIDIAはGTC 2024で人工知能モデル実行向けの新世代Blackwell GPUアーキテクチャを発表した。さらに、NIMとOmniverseを通じて下流産業チェーンを拡大していく予定だ。

2時間にわたる開会スピーチの中で、NVIDIAの創業者であるジェンセン・フアン氏は、NVIDIAの新しいエンジン、すなわち新しいコンピューティングアーキテクチャに基づくハードウェア、ソフトウェア、およびサービスについて世界に紹介した。

• 新しいBlackwell GPUアーキテクチャとGB200「スーパーチップ」により、Hopperの4倍のトレーニング性能を実現し、大規模なモデルパラメータは兆レベルに達します。
• 革新的なソフトウェアNIMにより、企業はNVIDIAプラットフォーム上で大規模モデルをより簡単にカスタマイズできるようになります。
• Omniverse Cloudは、ロボット工学、自動運転、デジタルツインのトレーニングと応用を単一のプラットフォームに統合します。
• カスタムモデル開発ソフトウェア「Nemo」とAIファクトリー。

 

Blackwell B200 GPUとGB200

Blackwellは、数学者デイビッド・ハロルド・ブラックウェルにちなんで名付けられました。これは、Hopperアーキテクチャを継承する新世代のGPUアーキテクチャです。GB200はBlackwellベースの最初のチップであり、今年末までに発売される予定です。

 

 

Blackwell GPUは単体GPUとして入手可能であるほか、2つのBlackwell GPUを組み合わせてNvidiaのGrace CPUと組み合わせることで、スーパーチップであるGB200を作成することもできる。

GB200は、2つのB200 GPUを900GB/sの超低消費電力チップ間相互接続を介してGrace CPUに接続します。Nvidiaによると、このシステムは27兆個のパラメータを持つモデルを展開できるとのことです。CPT-4は1.7兆個のパラメータを持つとされています。

超高性能なAIを実現するために、GB200を搭載したシステムは、NVIDIA Quantum-X800 InfiniBandおよびSpectrum-X800 Ethernetプラットフォームに接続できます。これらのプラットフォームはどちらも、最大800Gb/sの高速ネットワーク接続を提供します。

Nvidiaによると、GB200は現在のH100 GPUと比較して、推論ワークロードにおいて30倍のパフォーマンス向上を実現するとのことだ。

さらに、NvidiaはGB200 NVL72液体冷却システムもリリースしました。導かれた ラックシステム構成で、Grace製CPU 36セットとBlackwell製GPU 72セットで構成されています。GB200 NVL72では、推論演算能力は1440 PFLOPSに達し、最大データ転送量は毎秒260 TBに達します。さらに、FP8精度トレーニング演算能力は720 PFLOPSに達し、これはほぼスーパーコンピュータクラスタに匹敵する性能です。

 

 

NVIDIA DGX B200クラウドプラットフォームシステムには、モデルのトレーニング、ファインチューニング、推論のために、Blackwell GPUとGB200スーパーチップが導入されます。すべてのNVIDIA DGXプラットフォームには、エンタープライズグレードの開発と展開のためのNVIDIA AI Enterpriseソフトウェアが含まれています。

ジェンセン・フアン氏は、Nvidiaは今後Blackwellを活用して世界中の人工知能企業に進出し、すべてのOEM、地域クラウド、国家主権AI、通信会社と契約を結ぶ計画だと述べた。

Amazon、Dell、Google、Meta、Microsoft、OpenAI、そしてTeslaはいずれもBlackwell GPUの採用を計画している。

NIM（Nvidia Inference Microservice）

企業が大規模なモデルを使用する場合、通常はビジネスを支援するために微調整とプライベートな展開が必要になります。今回のカンファレンスで、NvidiaはモデルカスタマイズサービスであるNIM（Nvidia Inference Microservice）を発表しました。

まず、このデジタルボックスには、パートナー企業が提供するオープンソースモデル「Llama」をはじめ、さまざまな関連モデルが用意されています。NVIDIAによると、これらのモデルはNVIDIAのハードウェアに基づいて最適化されており、CPUが1つのノートPCでも、複数のGPUを搭載した企業レベルのハードウェアでも、どちらも直接使用できます。

 

 

さらに、大規模モデルの微調整にも役立ちます。例えば、NVIDIAが2023年11月に発表したNVIDIA NeMo Retrieverテクノロジーはマイクロサービス全体に統合されており、企業がRAG機能を有効化するのに役立ちます。その他にも、情報の迅速な検索を支援するLemo Retrieverや、ユーザーがデジタルヒューマンを作成するのに役立つデジタルヒューマンマイクロサービスなどが含まれています。

医療分野において、NVIDIAは医療シナリオに基づいた25種類の新しいマイクロサービスを発表しました。これは、世界のヘルスケア企業が生成型AIを活用して効率性を向上させるための支援を目的としています。これらのマイクロサービスには、生成型化学のためのMoIMIM、タンパク質構造予測のためのESMFold、そして薬剤分子が標的とどのように相互作用するかを研究者が理解するのに役立つDiffDockなど、さまざまな創薬モデルが含まれています。

 

 

医療業界の企業は、これらのマイクロサービスを利用して、数兆もの医薬品候補をスクリーニングしたり、早期疾患発見に役立つ患者データをより多く収集したり、より高度なデジタルアシスタントを導入したりするなど、様々なことが可能になります。

NVIDIAは、マイクロサービスがゲノム解析ワークフローにおける変異検出処理をCPU上で実行する場合と比較して50倍以上高速化できる例を挙げた。一部のスタートアップ企業は、人工知能を活用した医療臨床対話プラットフォームを構築している。このプラットフォームは、患者と電話で会話しながら、診察予約、術前診察、退院後のフォローアップなどを行う。これにより、深刻な人手不足問題が大幅に緩和され、患者の治療成績が向上する。また、臨床医の作業時間を最大3時間節約できる。

現在、世界中で約50社のアプリケーションプロバイダーがNVIDIAの医療向けマイクロサービスを利用している。

オムニバース - デジタル倉庫とロボット

Omniverseは、NVIDIAが得意とするコンピュータグラフィックス、人工知能、技術コンピューティング、物理シミュレーションのための真に統合されたプラットフォームです。環境の1対1のデジタルツインを実現できます。NVIDIAは、Omniverse Isaacシミュレータ上でトレーニングを行うロボット学習アプリケーションであるIsaac Labを開発しました。新しいコンピューティングオーケストレーションサービスにより、ロボットは物理ベースのシミュレーションでトレーニングされ、ゼロショットで実世界環境に移行できます。

ジェンセン・フアン氏は、ジェットソン・ソーをベースにした生産用ロボットを開発するための、ヒューマノイドロボットの汎用ベースモデルであるプロジェクトGR00Tを発表した。

 

 

NVIDIAはまた、デジタル倉庫の事例も披露した。これは、10万平方フィートの倉庫を対象としたOmniverseシミュレーション環境で、実行中のビデオ、Isaac知覚スタックを搭載したデジタル作業員AMR、そして天井に取り付けられた100台のシミュレーションカメラからの倉庫全体の中央集約型アクティビティマップを統合したものである。

 

 

この動画では、デジタルワーカーAMRの計画ルートが障害物によって妨げられた場合、NVIDIA Metropolisがリアルタイムで経路計画を変更する様子が示されています。生成AIベースのMetropolisビジョン基盤モデルを通して、オペレーターは自然言語で質問し、状況を把握することも可能です。

NVIDIAは、Omniverse Cloud向けのAPIを開発したことを発表しました。このAPIは非常に使いやすく、AIにも対応しています。例えば、自然言語によるシーンの説明から直接、シミュレーション環境の3D画像を生成することが可能です。

さらに、NVIDIAはVision Proとの提携を発表し、Omniverse CloudからVision Proへのストリーミング配信を可能にした。

DRIVE Thor 車載コンピューティングプラットフォーム

前世代のDRIVE Orinと比較して、DRIVE Thorはより機能豊富な自律型コックピット性能を提供します。Transformer、LLM、および生成型AIワークロード向けに特別に設計された新しいNVIDIA Blackwellアーキテクチャを統合しています。

 

 

BYDとNVIDIAの協業は、自動車分野からクラウド分野まで多岐にわたる。BYDは、DRIVE Thorを基盤とした次世代電気自動車フリートの構築に加え、クラウドベースのAI開発およびトレーニング技術にもNVIDIAのAIインフラストラクチャを活用する予定だ。GACやXPengといった自動車メーカーも、DRIVE Thorの車載コンピューティングプラットフォームを採用する意向を示している。

通信および気候アプリケーション - デジタルツインクラウドプラットフォーム

通信業界において、NVIDIAは6G研究クラウドプラットフォームを発表した。このプラットフォームを基盤として、通信企業は地形や人工構造物を正確にシミュレーションし、無線伝送の信頼性を向上させることができる。パートナー企業にはノキアやサムスンなどが含まれる。

さらに、NVIDIAは気象シミュレーションと可視化のためのデジタルツインクラウドプラットフォーム「Earth-2」を発表しました。従来のCPU駆動型モデリングとは異なり、Earth-2はわずか数秒でユーザーに警告や最新の予報を迅速に提供できます。さらに、生成される気候画像は、現在の数値モデルよりも解像度が12.5倍高く、処理速度は1000倍、エネルギー効率は3000倍も優れており、粗い解像度の予測による不正確さを解消します。

 

 

ジェンセン・ホアン氏は、実用的な活用事例も紹介した。例えば、台湾の中央気象局は、このモデルを用いて台風のより正確な上陸地点を予測し、住民の早期避難を促進し、死傷者を減らすことを計画している。

NVIDIAはまた、日本の新型スーパーコンピュータ「ABCI-Q」がNVIDIAのアクセラレーションおよび量子コンピューティングプラットフォームによってサポートされることも発表した。500以上のノードに2000基以上のNVIDIA H100 GPUを搭載するこのスーパーコンピュータは、世界で唯一の完全オフロード可能なネットワーク内コンピューティングプラットフォームであり、来年初頭に展開される予定だ。

「生成AI」が未来を象徴する現代において、誰もがそのトレンドに追いつこうとしている。2024年のGTCカンファレンスでは、1万人以上が基調講演をライブで視聴し、900以上のセッションと100社以上の出展企業が集まった。アップルを除けば、NVIDIAは誰もが手に取りたくなるような技術を実現できる数少ない企業の1つだ。時代の潮流に沿って、NVIDIAは未来のAIにコンピューティングパワーを提供すると同時に、最大の受益者にもなり、世界で最も高い時価総額を誇る企業になると期待されている。