NVIDIA H200 Tensor コア GPU は、市場を一変させるパフォーマンスとメモリ機能で生成 AI と HPC ワークロードを強化します。HBM3e を搭載した初の GPU である H200 の大容量かつ高速のメモリは、HPC ワークロードのための科学コンピューティングを推進しながら、生成 AI と大規模言語モデル (LLM) の高速化を促進します。
進化し続ける AI の世界では、企業はさまざまな推論のニーズに対応するために LLM を利用しています。AI 推論アクセラレータは、大規模なユーザー ベース向けにデプロイする場合、最小の TCO で最高のスループットを実現する必要があります。
H200 は、Llama2 のような LLM を扱う場合、H100 GPU と比較して推論速度を最大 2 倍向上します。
データ センター内のスペースに制約があるお客様に最適な選択肢です。規模に関係なく、AI と HPC のあらゆるワークロードを高速化します。前世代と比較してメモリが 1.5 倍、帯域幅が 1.2 倍に増えたことで、お客様は数時間内に LLM をファインチューニングすることができ、1.8 倍の速さで LLM 推論を実行できます。
NVIDIA®コンピューティングボード ラインナップ
NVIDIA RTX A6000 Adaは NVIDIA Ada Lovelaceアーキテクチャを採用したワークステーション向けGPUです。第3世代の RT コア、第4世代の Tensor コア、次世代 CUDA® コアを 48GB の広帯域GDDR6メモリと組み合わせることにより、かつてないコンピューティング パフォーマンスを実現します。
NVIDIA RTX 6000 Ada は、前世代となるNVIDIA RTX A6000と比較して約2倍の性能パフォーマンスを提供し、レンダリング、グラフィックス、AI、NVIDIA Omniverseを使ったコンテンツ制作など、開発や研究をさらに加速します。
NVIDIA®グラフィックボード ラインナップ
XILINX® FPGAボード ラインナップ