NVIDIA H200 NVL for PCIe 搭載GPUサーバー特集

NVIDIA H200 Tensor core GPU NVIDIA H200 NVL 141GB PCIe

仕様

NVIDIA H200 GPU

H200 SXM¹

H200 NVL¹


FP64

34 TFLOPS

30 TFROPS


FP64 Tensor コア

67 TFLOPS

60 TFROPS


FP32

67 TFLOPS

60 TFROPS


TF32 Tensor コア

989 TFLOPS

835 TFLOPS


BFLOAT16 Tensor コア²

1,979 TFLOPS

1,671 TFLOPS


FP16 Tensor コア²

1,979 TFLOPS

1,671 TFLOPS


FP8 Tensor コア²

3,958 TFLOPS

3,341 TFLOPS


INT8 Tensor コア²

3,958 TFLOPS

3,341 TFLOPS


GPU メモリ

141GB

141GB


GPU メモリ帯域幅

4.8TB/秒

4.8TB/秒


デコーダー

7 NVDEC
7 JPEG

7 NVDEC
7 JPEG


コンフィデンシャル コンピューティング

サポート対象

サポート対象


最大熱設計電力 (TDP)

最大 700W(構成可能)

最大600W(設定可能)


マルチインスタンス GPU

各 18GB で最大 7 個の MIG

最大7パーティション(各16.5GB)


フォーム ファクター

SXM

PCIe
デュアルスロット空冷


相互接続

NVIDIA NVLink™: 900GB/秒
PCIe Gen5: 128GB/秒

2台または4台構成時のNVIDIA NVLinkブリッジ:
GPU1台あたり900GB/秒
PCIe Gen5: 128GB/秒


サーバー オプション

GPU を 4 基または 8 基搭載の NVIDIA HGX™ H200 Partner および NVIDIA-Certified Systems™

NVIDIA MGX™ H200 NVLパートナーおよびNVIDIA認定システムで最大8基のGPU搭載可能


NVIDIA AI Enterprise

アドオン

含む


¹仕様は変更される場合があります。
²疎性あり

データシートを見る

NVIDIA H200 NVL for PCIe 搭載GPUサーバー


筐体

■ 4U ラックマウント筐体
  - 約 438.5mm(W) x175mm(H) x800(D) mm


基本ソフト

■ Ubuntu 24.04 LTS インストール代行


フレームワーク

■ オプション


チップセット

■ Intel System On チップセット


プロセッサー

 ■ [2基] Xeon6 6760P プロセッサー
  - 2.2GHz | TB 3.8GHz(Single Core)
  - 64コア | 128スレッド
  - 320MB キャッシュ
  - DDR5-6400 | 8チャンネル
  - PCI Express 5.0(88レーン)
  ※ 上記仕様は、1CPUあたり


プロセッサー・クーラー

■ 空冷CPUクーラー(最大350W)


メモリー

■ 2048GB(64GB x32)
  - DDR5-5600 | ECC | Registered
  - 32スロット(16ch)
  - 最大8TB(256GB x32 | 3DS RDIMM)
  ※ 動作速度は諸条件により異なります


ストレージ

■ 3.84TB E1.S NVMe-SSD 高耐久仕様


グラフィック

■ D-Sub 15(ASPEED AST2600 BMC)
[8基] NVIDIA H200 141GB NVL HBM3e ECC
  - PCI Express 5.0(x16)


光学ドライブ

■ 非搭載


ネットワーク(有線)

■ [1ポート] IPMI Management
■ [2ポート] 10ギガビット(Intel X710-AT2)


サウンド

■ 非搭載


電源ユニット

■ [冗長化(3+1)] 3,000W/200V(1,200W/100V)
  - 80 Plus Platinum 認証


入力装置

■ 非搭載


保証

■ 3年間センドバック方式ハードウェア保証


ラック・マウント

■ レールキット付属


※ 本製品の仕様は、予告無しに変更となる場合があります。
販売価格:オープン(お問い合わせください)



筐体

■2U 1S Intel® Xeon6 Processors AI Server  
 D900mmxH88mmxW438.5mm


基本ソフト

■ Ubuntu 24.04 LTS インストール代行


フレームワーク

■ オプション


チップセット

■System On Chip 最大2TB (16) DIMM slots
 CPUTDP:Max up to 350W   


プロセッサー

 ■ Xeon6 6740P 48C/96T 
  - 2.1 GHz(最大3.8 GHz)
– 336MB DDR5(6400MHz) 
– TDP=350 W


プロセッサー・クーラー

■ Air cooling modules for max. 350W CPU


メモリー

■ 512GB (64GB×8)
  - DDR5-5600 | 1.2V | 2RANK
  - Registered ECC DIMM


ストレージ

■ 3.84TB U.2 NVMe Read 最大12000MB Write 最大 6000MB/Sec
  - MTBF=200万時間 | 高耐久SSD
  - Samsung | PM9D3aシリーズ


グラフィック

■ D-Sub 15(ASPEED AST2600 BMC)
【2GPU】NVIDIA H200 Tensor Core GPU 141GB NVL HBM3e ECC(映像出力無し)
  - PCI-E5.0x16


光学ドライブ

■ 非搭載


ネットワーク(有線)

■ [オンボード]1000Base-T Dedicated Server Management Port (x1)
■ [2ポート] 10ギガビット(Intel X550-AT2)| PCI-Ex4


サウンド

■ 非搭載


電源ユニット

■2400W 80 PLUS titanium認証 
  -冗長化電源(2+2) 1000 Watts (100V AC input) 
  -2400W (200V AC input) 
  -2400W (240V AC input)


入力装置

■ 非搭載


保証

■ 3年間センドバック方式ハードウェア保証
  -認証コード:YS020226-11


ラック・マウント

■ レールキット付属


※ 本製品の仕様は、予告無しに変更となる場合があります。
販売価格:¥20,458,563(税込み)


Unlock True Potential POWERED BY MSI Al Server 


|CG480-S6053
4U2S Intel Birch Stream SP GPU server designed withTM NVIDIA MGXTM Architecture 

フォームファクター

4U


外形寸法

438.5mm (17.2″) Wx 175mm (6.88″) Hx 800mm (31.4″) D


プロセッサー

Dual Intel® Xeon® 6700E-series, 6500P-series and 6700P-series processors, up to TDP 350W


メモリ

(32) DDR5 DIMM slots, 8 channels per CPU (2DPC), メモリ up to 6400MT/s RDIMM (1DPC), 5200MT/s RDIMM (2DPC)


ネットワーク

10GBase-T Ethernet Ports with Intel® X710-AT2 (NCSI supported)


内臓ストレージ

 (2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports


拡張スロット

(8) PCIe 5.0 x16 FHFL double wide slots (through PCle switch), supporting max 600W GPUs (4) PCIe 5.0 x16 FHFL single wide slots (through PCle switch) 

(1) PCIe 5.0 x16 FHFL single wide slot


サーバーマネジメント

(1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API Dual BIOS* and dual BMC 

* Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT) 


電源

(3+1) Redundant 3200W CRPS 80 PLUS Titanium


ドライブベイ

( 20) Front E1.S PCIe 5.0 x4 NVMe


Unlock True Potential POWERED BY MSI Al Server 


|CG480-S6053
4U2S Intel Birch Stream SP GPU server designed with TM NVIDIA MGXTM Architecture 

フォームファクター

4U


外形寸法

438.5mm (17.2″) Wx 175mm (6.88″) Hx 800mm (31.4″) D


プロセッサー

Dural AMD EPYCTM 9005 Series processors, up to TDP 500W


メモリ

(24) DDR5 DIMM slots, 24 channels (1DPC),
 up to 6400MT/s RDIMM (1DPC)


ネットワーク

10GBase-T Ethernet Ports with Intel® X710-AT2 (NCSI supported) 


内臓ストレージ

  (2) 2280/22110 PCIe 3.0 x2 NVMe M.2 ports


拡張スロット

(8) PCle 5.0 x16 FHFL double wide slots (air cooled GPU with support up to 600W) 

 (5) PCIe 5.0 x16 FHFL single wide slots


サーバーマネジメント

(1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API 

Dual BIOS* and dual BMC * Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)


電源

(3+1) Redundant 3200W CRPS 80 PLUS Titanium


ドライブベイ

(8) Front 2.5″ U.2 PCIe 5.0 x4 NVMe



|CG290-S3063 
2U1S Intel Birch Stream SP GPU server designed with NVIDIA MGXTM Architecture

フォームファクター

2U


外形寸法

438.5mm (17.2″) Wx 88mm (3.46″) Hx 900mm (35.43″) D 


プロセッサー

Single Intel® Xeon® 6500P/6700P-series processor with 136 PCle lanes, up to TDP 350W


メモリ

(16) DDR5 DIMM slots, 8 channels(2DPC), up to 6400MT/s RDIMM (1DPC), 5200MT/s RDIMM (2DPC)


ネットワーク

 N/A


内臓ストレージ

   (2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports


拡張スロット

(4) PCIe 5.0 x16 FHFL double wide slots supporting 600W passive 拡張スロット GPUs


サーバーマネジメント

(1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API Dual BIOS* and dual BMC 

* Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT) 


電源

(2+2) Redundant 2400W CRPS 80 PLUS Titanium


ドライブベイ

(4) Rear 2.5″ U.2 PCIe 5.0 x4 NVMe


CG481-S6053
4U2S AMD EPYC 9005 GPU server designed with NVIDIA MGXTM Architecture

フォームファクター

4U


外形寸法

438.5mm (17.2″) Wx 175mm (6.88″) Hx 800mm (31.4″) D


プロセッサー

Dural AMD EPYCTM 9005 Series processors, up to TDP 500W


メモリ

(24) DDR5 DIMM slots, 24 channels (1DPC), up to 6400MT/s RDIMM (1DPC)


ネットワーク

(8) 400G QSFP Ports (from four NVIDIA CX8 chipsets)


内臓ストレージ

 (2) 2280/22110 PCIe 3.0 x2 NVMe M.2 ports


拡張スロット

(8) PCle 5.0 x16 FHFL double wide slots (air cooled GPU with support up to 600W) 

 (5) PCIe 5.0 x16 FHFL single wide slots


サーバーマネジメント

(1) 1000Base-T Dedicated Server Management Port ASPEED AST2600 with AMI MegaRAC based firmware supporting IPMI 2.0 and DMTF Redfish API 

Dual BIOS* and dual BMC * Dual BIOS is implemented exclusively to support the Embedded Root of Trust (EROT)


電源

(3+1) Redundant 3200W CRPS 80 PLUS Titanium


ドライブベイ

 (8) Front 2.5″ U.2 PCIe 5.0 x4 NVMe 



|G4201
4U2S Intel Eagle Stream GPU server designed with proprietary architecture

フォームファクター

4U


外形寸法

438mm (17.2″) Wx 176mm (6.9″) Hx 897mm (35.3″) D


プロセッサー

Dual Intel® Xeon® 4th/5th Generation Scalable Processors, up to TDP 350W


メモリ

(32) DDR5 DIMM slots, 8 channels per CPU (2DPC), up to 5600MT/s RDIMM (1DPC), 4400MT/s RDIMM (2DPC)


ネットワーク

 (1)1000Base-T Ethernet port


内臓ストレージ

 (2) 2280/22110 PCIe 5.0 x2 NVMe M.2 ports


拡張スロット

G4201RAS10U2-P4-Pt 

(8) PCIe 4.0 x16 FHFL slots, supporting max 400W PCIe cards (1) PCIe 4.0 x16 FHFL slot (1) PCIe 4.0 x8 FHFL slot G4201RAS8U4-P5-Ti (8) PCIe 5.0 x16 FHFL slots, supporting max 400W PCIe cards (1) PCIe 5.0 x16 FHFL slot G4201RAS10U2-HE 

(8) PCIe 5.0 x16 FHFL slots, supporting max 600W PCIe cards 
(1) PCIe 5.0 x16 FHFL slot
(1) PCIe 4.0 x8 FHFL slot 

* all slots are directly connected to CPU sockets, switchless topology


サーバーマネジメント

(1) 1000Base-T Dedicated Server Management port 779X ASPEED AST2600 with IPMI 2.0 & DMTF Redfish support 

Dual BIOS and dual BMC


電源

(3+1) Redundant 2000W/2700W CRPS 80 PLUS Platinum/Titanium 


ドライブベイ

(12) Front 3.5″/2.5″ support: 

G4201RAS10U2-P4-Pt/G4201RAS10U2-HE F11 (2) U.2 PCIe 4.0 x4 NVMe+(10) SATA