NVIDIA H200 NVL

NVIDIA H200 NVL

生成AIの推論を、かつてないスピードへ。

お見積り・お問い合わせ
141GB HBM3e アイコン

141GB HBM3e

巨大なLLMも1枚のGPUでスムーズに処理。

4.8 TB/s アイコン

4.8 TB/s の超広帯域

データの読み出しを20%高速化し、AIレスポンス待機時間を最小限に。

1.9倍の推論性能 アイコン

1.9倍の推論性能

同じサーバー構成でも、より多くのユーザーリクエストを同時に処理可能。

H100に比べ、メモリとスピードが大幅に進化しています。

項目 H100 NVL H200 NVL (New) 進化
メモリ
94GB
141GB
最大 1.5x
メモリ帯域幅
3.9 TB/s
4.8 TB/s
1.2x
推論性能
1.0x
1.9x
最大 1.9x

CERVO Grasta Type-MGX-H200

cervo Grasta Type-MGX-H200
4Uラックマウント 最大8GPU passive GPU対応 カスタマイズ対応 3年間センドバック方式ハードウェア保証
筐体4Uラックマウント筐体
　　- 約438.5mm（W） x175mm（H） x800(D) mm
基本ソフトUbuntu 24.04 LTS インストール対応
チップセット Intel System On チップセット
プロセッサーIntel® Xeon® 6700P プロセッサー
　　- 2.2GHz | TB 3.8GHz（Single Core）
　　- 64コア | 128スレッド
　　- 320MB キャッシュ
　　- DDR5-6400 | 8チャンネル
　　- PCI Express 5.0（88レーン）
　　※ 上記仕様は、1CPUあたり
メモリー2048GB (64GB x4) / DDR5-5600 ECC
　　- DDR5-5600 | ECC | Registered
　　- 32スロット（16ch）
　　- 最大8TB（256GB x32 | 3DS RDIMM）
　　※ 動作速度は諸条件により異なります
ストレージ3.84TB E1.S NVMe-SSD 高耐久仕様
グラフィック D-Sub 15（ASPEED AST2600 BMC）
[8基] NVIDIA H200 141GB NVL HBM3e ECC
- PCI Express 5.0（x16）
光学ドライブ非搭載
ネットワーク [1ポート] IPMI Management
[2ポート] 10ギガビット（Intel X710-AT2）
電源ユニット[冗長化（3+1）] 3,000W/200V（1,200W/100V）
　　- 80 Plus Platinum 認証
製品ページはこちらから

HPC-AI-Server AISV-X6740PMS3Q4TU2U2

HPC-AI-Server
2Uラックマウント NVIDIA H200搭載 2GPU カスタマイズ対応 3年間センドバック方式ハードウェア保証
筐体2U　1S Intel® Xeon6 Processors AI Server
　 　D900mmxH88mmｘW438.5mm
基本ソフトオプション
チップセットSystem On Chip　最大2TB　(16) DIMM slots
CPUTDP：Max up to 350W　
プロセッサーXeon6 6740P 48C/96T
　　- 2.1 GHz(最大3.8 GHz)
　　- 336MB DDR5(6400MHz)
　　- TDP=350 W
メモリー 512GB （64GB×8)
　　- DDR5-5600 | 1.2V | 2RANK
　　- Registered ECC DIMM
ストレージ3.84TB U.2 NVMe Read 最大12000MB Write 最大 6000MB/Sec
　　- MTBF=200万時間 | 高耐久SSD
　　- Samsung | PM9D3aシリーズ
グラフィックD-Sub 15（ASPEED AST2600 BMC）
【2GPU】NVIDIA H200 Tensor Core GPU 141GB NVL HBM3e ECC（映像出力無し）
　　- PCI-E5.0ｘ16
光学ドライブ非搭載
ネットワーク[オンボード]1000Base-T Dedicated Server Management Port（ｘ1）
[2ポート] 10ギガビット（Intel X550-AT2）| PCI-Ex4
電源ユニット2400W　80 PLUS titanium認証
　 　　-冗長化電源（2+2） 1000 Watts (100V AC input)
　 　　-2400W (200V AC input)
　 　　-2400W (240V AC input)
製品カタログはこちらから

下記ソフトウェアの高速化に最適です。

大規模言語モデル

  • TensorFlow

流体解析

  • Ansys
  • OpenFOAM

分子動力学

  • AlphaFold2
  • Amber
  • LAMMPS

メモリ不足やデータの読み込みが帯域幅で解消されるデータのサイズも増えている傾向がある為、
H200を検討される方が増えています。

msi×APPLIEDエンタープライズ製品総合カタログはこちらから

POWERED BY MSI
システムを支える6つの革新技術

01

NVIDIA HGX H100/H200 対応

最新のH100/H200を最大8基搭載。NVIDIA公式設計（HGX）に基づき、最高の安定性とパフォーマンスを保証します。

Point: 最高のパフォーマンス
02

超高速通信「NVSwitch」

8基のGPUが1つの巨大チップのように通信。大規模AI学習でも通信遅延をほぼ発生させません。

Point: 通信遅延ゼロへ
03

第5世代 Intel Xeon 2基搭載

脳にあたるCPUも最新世代をDual搭載。GPUへのデータ供給を爆速化し、ボトルネックを排除します。

Point: 爆速データ準備
04

圧倒的な拡張性

32本のDDR5スロットと前面24基のNVMeスロットを装備。膨大な学習データを高速で読み書きします。

Point: 数テラバイト対応
05

4+2 冗長化電源

3000W（Titanium）電源を6基搭載。故障時もシステムを止めない、安定稼働と省エネを両立。

Point: 24時間365日稼働
06

6U 筐体による冷却設計

27cmの厚みを活かした強力なファンと計算されたエアフロー。24時間のフル稼働を支え続けます。

Point: 強力エアフロー

CG480-S5063

4U2S Intel Birch Stream SP GPU server designed with™ NVIDIA MGX™ Architecture

cervo Grasta Type-MGX-H200
フォームファクター4U
外形寸法438.5mm (17.2”) W x 175mm (6.88”) H x 800mm (31.4”) D
プロセッサーDual Intel® Xeon® 6700E-series, 6500P-series and 6700P-series processors, up to TDP 350W
メモリ(32) DDR5 DIMM slots, 8 channels per CPU (2DPC), メモリ up to 6400MT/s RDIMM (1DPC), 5200MT/s RDIMM (2DPC)
ネットワーク10GBase-T Ethernet Ports with Intel® X710-AT2 (NCSI supported)
内蔵ストレージ(2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports
拡張スロット (8) PCIe 5.0 x16 FHFL double wide slots (through PCIe switch),
supporting max 600W GPUs (4) PCIe 5.0 x16 FHFL single wide slots (through PCIe switch)
(1) PCIe 5.0 x16 FHFL single wide slot
サーバー
マネジメント		 (1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API Dual BIOS* and dual BMC
* Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)
電源(3+1) Redundant 3200W CRPS 80 PLUS Titanium
ドライブベイ(20) Front E1.S PCIe 5.0 x4 NVMe

CG480-S6053

4U2S Intel Birch Stream SP GPU server designed with TM NVIDIA MGXTM Architecture

cervo Grasta Type-MGX-H200
フォームファクター4U
外形寸法438.5mm (17.2”) W x 175mm (6.88”) H x 800mm (31.4”) D
プロセッサーDual AMD EPYCTM 9005 Series processors, up to TDP 500W
メモリ(24) DDR5 DIMM slots, 24 channels (1DPC), up to 6400MT/s RDIMM (1DPC)
ネットワーク10GBase-T Ethernet Ports with Intel® X710-AT2 (NCSI supported)
内蔵ストレージ(2) 2280/22110 PCIe 3.0 x2 NVMe M.2 ports
拡張スロット (8) PCIe 5.0 x16 FHFL double wide slots (air cooled GPU with support up to 600W)
(5) PCIe 5.0 x16 FHFL single wide slots
サーバー
マネジメント		 (1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API
Dual BIOS* and dual BMC * Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)
電源(3+1) Redundant 3200W CRPS 80 PLUS Titanium
ドライブベイ(8) Front 2.5” U.2 PCIe 5.0 x4 NVMe

CG290-S3063

2U1S Intel Birch Stream SP GPU server designed with NVIDIA MGXTM Architecture

cervo Grasta Type-MGX-H200
フォームファクター2U
外形寸法438.5mm (17.2”) W x 88mm (3.46”) H x 900mm (35.43”) D
プロセッサーSingle Intel® Xeon® 6500P/6700P-series processor with 136 PCIe lanes, up to TDP 350W
メモリ(16) DDR5 DIMM slots, 8 channels(2DPC), up to 6400MT/s RDIMM (1DPC), 5200MT/s RDIMM (2DPC)
ネットワークN/A
内蔵ストレージ(2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports
拡張スロット(4) PCIe 5.0 x16 FHFL double wide slots supporting 600W passive 拡張スロット GPUs
サーバー
マネジメント		 (1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API Dual BIOS* and dual BMC
* Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)
電源(2+2) Redundant 2400W CRPS 80 PLUS Titanium
ドライブベイ(4) Rear 2.5” U.2 PCIe 5.0 x4 NVMe

CG481-S6053

4U2S AMD EPYC 9005 GPU server designed with NVIDIA MGXTM Architecture

cervo Grasta Type-MGX-H200
フォームファクター4U
外形寸法438.5mm (17.2”) W x 175mm (6.88”) H x 800mm (31.4”) D
プロセッサーDual AMD EPYCTM 9005 Series processors, up to TDP 500W
メモリ(24) DDR5 DIMM slots, 24 channels (1DPC), up to 6400MT/s RDIMM (1DPC)
ネットワーク(8) 400G QSFP Ports (from four NVIDIA CX8 chipsets)
内蔵ストレージ(2) 2280/22110 PCIe 3.0 x2 NVMe M.2 ports
拡張スロット (8) PCIe 5.0 x16 FHFL double wide slots (air cooled GPU with support up to 600W)
(5) PCIe 5.0 x16 FHFL single wide slots
サーバー
マネジメント		 (1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API
Dual BIOS* and dual BMC * Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)
電源(3+1) Redundant 3200W CRPS 80 PLUS Titanium
ドライブベイ(8) Front 2.5” U.2 PCIe 5.0 x4 NVMe

G4201

4U2S Intel Eagle Stream GPU server designed with proprietary architecture

cervo Grasta Type-MGX-H200
フォームファクター4U
外形寸法438mm (17.2”) W x 176mm (6.9”) H x 897mm (35.3”) D
プロセッサーDual Intel® Xeon® 4th/5th Generation Scalable Processors, up to TDP 350W
メモリ(32) DDR5 DIMM slots, 8 channels per CPU (2DPC), up to 5600MT/s RDIMM (1DPC), 4400MT/s RDIMM (2DPC)
ネットワーク(1)1000Base-T Ethernet port
内蔵ストレージ(2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports
拡張スロット G4201RAS10U2-P4-Pt
(8) PCIe 4.0 x16 FHFL slots, supporting max 400W PCIe cards (1) PCIe 4.0 x16 FHFL slot (1) PCIe 4.0 x8 FHFL slot G4201RAS8U4-P5-Ti (8) PCIe 5.0 x16 FHFL slots, supporting max 400W PCIe cards (1) PCIe 5.0 x16 FHFL slot G4201RAS10U2-HE
(8) PCIe 5.0 x16 FHFL slots, supporting max 600W PCIe cards
(1) PCIe 5.0 x16 FHFL slot
(1) PCIe 4.0 x8 FHFL slot
* all slots are directly connected to CPU sockets, switchless topology
サーバー
マネジメント		 (1) 1000Base-T Dedicated Server Management port 779X ASPEED AST2600 with IPMI 2.0 & DMTF Redfish support
Dual BIOS and dual BMC
電源(3+1) Redundant 2000W/2700W CRPS 80 PLUS Platinum/Titanium
ドライブベイ (12) Front 3.5”/2.5” support:
G4201RAS10U2-P4-Pt/G4201RAS10U2-HE F11 (2) U.2 PCIe 4.0 x4 NVMe+ (10) SATA

アプライドが、最適なシステム構成をご提案します。

1.

用途のヒアリング

Llama 3や画像生成など、目的に合わせた枚数を算出。

2.

専用サーバーの選定

600Wの電力を支える冷却・電源環境を構築。

3.

設置・保守サポート

導入後のトラブルも専門スタッフが対応。

製品のカスタマイズや導入に関するご相談など、
お気軽にお問い合わせください。

お見積り・お問い合わせ