大模型训练
NVIDIA H100 SXM
80GB HBM3 显存
目前性能最强的 AI 训练 GPU，适合千亿级大模型训练和高吞吐推理，NVLink 互联。
FP16 性能989 TFLOPS
记忆体带宽3.35 TB/s
可选供应商阿里云
询价
国内合规训练
NVIDIA H800
80GB HBM2e 显存
H100 的国内合规版，互联带宽受限但训练性能仍出色，适合大模型预训练和微调。
FP16 性能989 TFLOPS
NVLink 带宽400 GB/s
可选供应商火山云
询价
中大型训练
NVIDIA A100 SXM
80GB HBM2e 显存
上一代训练旗舰，性价比优秀，广泛用于 7B-70B 模型训练和生产推理，生态成熟。
FP16 性能312 TFLOPS
记忆体带宽2 TB/s
可选供应商阿里云、腾讯云
询价
全新 · 推理首选
NVIDIA RTX 5090
32GB GDDR7 显存
最新 Blackwell 架构消费旗舰，本地部署 70B 模型无压力，推理性能大幅提升，正在询价中。
架构Blackwell (2025)
显存带宽1.8 TB/s
可选供应商询价
询价
推理 / 微调
NVIDIA RTX 4090
24GB GDDR6X 显存
消费级性能旗舰，7B-34B 模型推理和 LoRA 微调首选，性价比最高，供货充足。
FP16 性能165.2 TFLOPS
显存带宽1 TB/s
可选供应商阿里云、腾讯云、火山云
询价
多模态推理
NVIDIA L40S
48GB GDDR6 显存
专为推理优化的数据中心 GPU，48GB 显存支持大上下文，适合多模态推理和视频生成。
FP16 性能362 TFLOPS
显存带宽864 GB/s
可选供应商阿里云
询价
国产化替代
华为升腾 910B
64GB HBM 显存
国产 AI 芯片旗舰，适合政务、金融等需要国产化替代的行业，MindSpore 生态支持。
FP16 性能320 TFLOPS
显存带宽2 TB/s
可选供应商询价
询价