规格

技术规格

详细产品描述

NVIDIA H100 NVL 94 GB PCIe 加速器

支持的平台

  • HPE 主流计算平台

每个卡的加速器数量

  • 1

每个板卡的内存大小

  • 94 GB HBM2e

板卡内存带宽

  • 3.9 TB/秒

加速器应用

  • 变革性 AI 训练,实时深度学习推理

架构功能

  • H100 NVL 采用先进的 TSMC 4N 工艺制造,拥有 800 亿个晶体管,专为满足 NVIDIA 的加速计算需求量身定制,在加速数据中心规模的 AI、HPC、内存带宽、互连和通信方面取得了重大进展。Transformer Engine 使用软件和 Hopper Tensor Core 技术,旨在加速采用至关重要的 AI 模型构建块 Transformer 构建的模型的训练。Hopper Tensor Core 可以应用混合 FP8 和 FP16 精度,大幅加速 Transformer 的 AI 计算。NVLink 交换机系统支持跨多台服务器扩展多 GPU 输入/输出 (IO),每个 GPU 的双向传输速度为 900 千兆字节/秒 (GB/s),是 PCIe Gen5 带宽的 7 倍多。该系统提供的带宽比 NVIDIA Ampere 架构上的 InfiniBand HDR 高 9 倍。

系统

  • 兼容 HPE DL380 Gen10 Plus、HPE DL380 Gen11、HPE DL380a Gen11、HPE DL385 Gen11、HPE Edge Server e930t Gen11、HPE 纵向扩展服务器 3200、HPE Superdome Flex 280、HPE DL380 Gen12、HPE DL380a Gen12

产品尺寸(公制)

  • 3.47 x 26.7 x 11.1 厘米

重量

  • 1.69 千克

保修

  • 有关 HPE 合格选件有限保修的详细信息,请访问:3 年部件维修、0 年人工维修和 0 年现场支持服务。有关详细的保修信息,请参阅 https://h20564.www2.hpe.com/hpsc/wc/public/home