NVIDIA® H200 NVL 141GB は、HBM3eメモリとNVLink™を備え、生成AI・大規模言語モデル（LLM）・HPC向けに設計されたNVIDIA Hopper世代の最新GPUです。
NVIDIA® H200 NVL は、HBM3eメモリを141GB搭載した、生成AIおよびハイパフォーマンスコンピューティング（HPC）向けのGPUです。
大規模言語モデル（LLM）の学習・推論、科学シミュレーション、リアルタイム解析など、メモリ容量と帯域幅が性能を左右するワークロードにおいて、従来世代を大きく上回る性能を発揮 します。
※ 本製品は消費電力が非常に高いため、NVIDIAが認定したシステムでのみご利用いただけます。
動作確認済みのシステムや搭載方法については、弊社までお問い合わせください。
| 項目 | 内容 |
| モデル名 / 型式 | AISV-X6760Px2MS3Q4TU4E1H200X8 |
| プリインストールOS | Ubuntu 22.04 LTS ＆ CUDA 12 インストール済み |
| フレームワーク | NVIDIA GPU Cloud（TensorFlow / PyTorch）インストール済み |
| シャーシー | 4U 2S Intel® Xeon 6 Processors AI Server（D800 × H175 × W438.5mm） |
| 冷却FAN | [標準] システム内部冷却用FAN 合計10基（8080 Hot-swap System fans ×10） |
| CPU | 【2CPU】Xeon 6 6760P 64C / 128T 2.2GHz（最大3.8GHz）320MB Cache DDR5-6400MHz TDP 330W |
| CPUクーラー | Air cooling modules（最大350W CPU対応）×2 |
| チップセット | System On Chip（最大8TB）16＋16 DIMM slots / CPU TDP 最大350W |
| メインメモリ | 1536GB（64GB × 24）DDR5-5600 1.2V 2RANK Registered ECC DIMM |
| SSD（OS起動用） | 3.84TB E1.S NVMe エンタープライズSSD |
| 内部グラフィック | [オンボード] ASPEED AST2600 BMC 64MB（VGA ×1）IPMI |
| GPUカード | 【8GPU】NVIDIA H200 Tensor Core GPU 141GB NVL HBM3e ECC（映像出力なし）PCIe 5.0 ×16 |
| LANカード | [オンボード] Intel® X710-AT2 Dual 10GbE LAN Controller |
| IPMIマネジメントポート | [オンボード] IPMI Realtek RTL8211E |
| 電源ユニット | 3000W 80 PLUS Platinum 認証 冗長化電源（3＋1） 1200W（100V）/ 3000W（200V）/ 3200W（240V） |
| 外形寸法（約） | 約438.5mm（W）× 175mm（H）× 800mm（D）※突起部除く |
| 保証 | [標準] 3年間 センドバック方式 ハードウェア保証 |
| 項目 | NVIDIA H200 NVL | NVIDIA H100 NVL | NVIDIA A800 | NVIDIA L40S | NVIDIA L4 |
| 製品画像 |  |  |  |  |  |
| CUDAコア数 | 14592 | 14592 | 6912 | 18176 | 7424 |
| Tensorコア数 | 456 | 456 | 432 | 568 | 232 |
| メモリ容量 / 規格 | 141GB HBM3e | 94GB HBM3 | 40GB HBM2 | 48GB GDDR6 | 24GB GDDR6X |
| メモリ帯域幅 (GB/s) | 4800 | 3917 | 1555 | 864 | 300 |
| クロック数 (MHz) | 1,365–1,785 | 1,665–1,837 | 765–1,410 | 1,065–2,520 | 795–2,040 |
| FP64性能 (TFLOPS) | 34 | 34 | 9.7 | 1.4 | 0.473 |
| FP32性能 (TFLOPS) | 67 | 67 | 19.5 | 92 | 30.3 |
| FP16 Tensor性能 (TFLOPS) | 1979 | 1979 | 624 | 733 | 242 |
| 消費電力 (W) | 600 | 400 | 240 | 350 | 72 |
その他ラインナップ
・2 Intel Xeon 6 processors
・32 RDIMM slots w/ DDR5-6400
・8 NVMe U.2 hot-swap
・2 AMD EPYC™ 9004/9005 Series Processors
・24 DIMM slots with DDR5 6400 memory support
・ 8 2.5″ NVMe U.2 hot-swap
・Xeonスケーラブル4/5世代
・6 3.5″ SATA + 2 NVMe U.2 hot-swap
・タワー/ラックマウント両対応
・AMD EPYC™ 9004/9005 Series Processors
・8 3.5″ SATA + 2 NVMe U.2 hot swap
・タワー/ラックマウント両対応
