以上配置仅供参考,具体配置请咨询服务器厂商或查阅相关产品文档详情咨询客服
以上参数仅供参考,具体配置请咨询服务器厂商或查阅相关产品文档
H800 预计性能接近 H100,但可能存在一些限制。
此外,还需要考虑特定的使用场景和兼容性要求。
内存类型:DDR5 ECC RDIMM 或 LRDIMM
内存容量:1TB - 4TB 或更高
内存速度:4800MHz 或更高
GPU 数量:4 块 或 8 块
GPU 型号:NVIDIA H800 Tensor Core GPU
类型:NVMe SSD 或 SATA SSD
容量:1.6TB - 3.2TB 或更高
接口:PCIe Gen4 或 Gen5
类型:NVMe SSD 或 SATA HDD
容量:可根据需求配置,支持多种RAID级别
类型:NVIDIA Quantum InfiniBand 或 Mellanox InfiniBand
端口速度:HDR (200 Gbps) 或 NDR (400 Gbps)
数量:2 个或 4 个
类型:10GbE 或 25GbE
CPU 数量:2 颗 或 4 颗
CPU 型号:Intel Xeon Scalable 系列 (例如 Ice Lake 或 Sapphire Rapids) 或 AMD EPYC 系列 (例如 Genoa)
数量:根据服务器型号和配置而异
类型:PCIe Gen4 或 PCIe Gen5
功率:3000W - 5000W 或更高
数量:根据服务器型号和配置而异
类型:高性能散热风扇
Linux发行版 (例如 Ubuntu, CentOS, Red Hat Enterprise Linux)
10°C - 35°C
USB 接口
VGA/HDMI 接口
串口
根据配置不同,一般在 30kg 到 50kg 之间
H800 预计性能接近 H100,但可能存在一些限制。以下是两种规格的详细参数详情咨询客服
规格对比:
| 规格 | H800 | H100 |
|---|---|---|
| GPU | 8x NVIDIA A100 Tensor Core GPU | 8x NVIDIA H100 Tensor Core GPU |
| CUDA 核心 | 640 | 8192 |
| Tensor 核心 | 5120 | 16384 |
| 显存 | 80GB HBM2e | 80GB HBM3 |
| 内存带宽 | 800 GB/s | 3TB/s |
| NVLink | 600GB/s | 800GB/s |
| PCIe | PCIe Gen4 x16 | PCIe Gen5 x16 |
| 功耗 | 700W | 700W |
| 尺寸 | 3U | 3U |
其他值得注意的功能:
H800 GPU 支持 FP8 精度,这是一种比 FP16 更高精度的数据类型。
H800 具有一个专为处理大型语言模型(LLM)和多模态任务而设计的架构
H800 GPU 支持多实例 GPU(MIG)技术,允许将单个 GPU 划分为多个独立的实例,从而在单个 GPU 上同时运行多个工作负载。
选择建议:
如果需要极致性能和扩展性的用户可以选择 H100。
对预算和功耗比较敏感的用户可以选择 H800。
NVIDIA H800 作为一款强大的 AI 加速器,其应用场景广泛,主要集中在需要大量计算能力和并行处理的领域。
高性能计算(HPC)
物联网
智慧城市
图像识别与分析
自然语言处理(NLP)
推荐系统
H800 的 Transformer 引擎和 FP8 精度使其在处理 LLM 和生成式 AI 任务时效率极高。
可用于开发更强大的聊天机器人、文本摘要、机器翻译、代码生成等应用。