1. 排序规则:FP8 稠密峰值算力从高到低排序(2026 大模型训练核心指标);
2. 算力单位:FP16/FP8=TFLOPS,INT8=TOPS;
3. 实测基准:LLaMA3-70B 预训练稠密吞吐量(归一化 H100=100 分);
4. 区分:国际英伟达 / AMD 旗舰、国产通用 GPU、国产 AI 专用加速卡;
5. 数据来源:厂商 2026 白皮书、FlagOS 统一基准实测、智算中心批量跑分。
TOP20 算力卡完整参数表
排名 | 型号 | 厂商 | FP16 峰值 | FP8 稠密峰值 | INT8 稠密峰值 | 显存规格 / 带宽 | LLaMA3-70B 实测得分 | 核心特性 |
1 | H200 SXM | NVIDIA Blackwell | 1979 | 3958 | 3958 | 141GB HBM3e / 4.8TB/s | 142 | 全球旗舰,FP8 原生,MVLink 900GB/s 互联 |
2 | MI300X | AMD RDNA4 | 1630 | 3260 | 3260 | 192GB HBM3 / 10.2TB/s | 128 | 超大显存,ROCm 全栈,MoE 模型优势 |
3 | H100 SXM | NVIDIA Hopper | 989 | 1979 | 1979 | 80GB HBM3 / 3.35TB/s | 100 | 行业基准,万卡集群成熟,生态最优 |
4 | MTT S5000 | 摩尔线程 MUSA | 500 | 1000 | 2000 | 80GB GDDR6 / 1.6TB/s | 91 | 国产首款原生 FP8 训练卡,全精度覆盖 |
5 | BR100 | 壁仞科技 | 512 | 1024 | 2048 | 64GB HBM2e / 1.6TB/s | 87 | 纸面算力对标 H100,多卡互联 BR-Link |
6 | 燧原云燧 T20 | 燧原邃思 | 320 | 640 | 1280 | 48GB GDDR6 / 1.2TB/s | 79 | 腾讯投资,大模型训练优化,推理功耗低 |
7 | 思元 590 | 寒武纪 MLU5 | 300 | 600 | 1200 | 64GB HBM3 / 1.8TB/s | 76 | 国产云端推训一体,MagicMind 推理引擎 |
8 | DCU3.0 深算三号 | 海光信息 | 256 | 512 | 1024 | 32GB HBM2e / 900GB/s | 72 | CUDA 高兼容(95% 算子迁移),信创首选 |
9 | 昆仑芯 X80 | 昆仑芯 | 300 | 600 | 1200 | 96GB HBM3 / 2.1TB/s | 70 | 百度自研,文心系列原生适配,超大显存 |
10 | MTT S4000 | 摩尔线程 | 128 | 256 | 256 | 48GB GDDR6 / 768GB/s | 63 | 国产中端训推,性价比算力卡 |
11 | A100 80G | NVIDIA Ampere | 312 | 无原生 FP8 | 624 | 80GB HBM2 / 3.12TB/s | 58 | 无硬件 FP8,仅 BF16 训练,存量主流 |
12 | 平头哥真武 700 | 阿里平头哥 | 123 | 246 | 492 | 96GB HBM3 / 2.7TB/s | 55 | 阿里云集群专用,通义大模型深度适配 |
13 | RTX PRO 5000 72G | NVIDIA Blackwell | 420 | 840 | 1680 | 72GB GDDR7 / 1.4TB/s | 53 | 单机工作站 / 私有云,单卡性价比高 |
14 | MI250X | AMD RDNA3 | 479 | 958 | 958 | 128GB HBM2e / 3.2TB/s | 51 | 上一代 AMD 旗舰,存量算力池主力 |
15 | 思元 370 | 寒武纪 MLU3 | 128 | 无原生 FP8 | 256 | 24GB LPDDR5 / 307GB/s | 42 | 推理专用,边缘 + 云端批量部署 |
16 | A800 80G | NVIDIA Ampere | 312 | 无原生 FP8 | 624 | 80GB HBM2 / 3.12TB/s | 40 | H100 阉割互联版,国内存量最多英伟达卡 |
17 | 后摩 LQ50 | 后摩智能 | 64 | 128 | 256 | 32GB GDDR6 / 512GB/s | 36 | 边缘车规级算力,工业宽温场景 |
18 | RTX 5090 | NVIDIA Blackwell | 212 | 424 | 848 | 48GB GDDR7 / 1.3TB/s | 32 | 消费级旗舰,本地微调、多模态生成 |
19 | DCU2.0 深算二号 | 海光信息 | 128 | 256 | 512 | 16GB GDDR6 / 560GB/s | 29 | 国产化推理服务器标配,低成本替代 A10 |
20 | RK3588 算力模组 | 瑞芯微 | 6 | 12 | 24 | 16GB LPDDR4X / 128GB/s | 11 | 端侧边缘推理,视频分析、工控 AI |
一、三大精度算力分层解读
1. FP8(2026 大模型训练核心指标)
FP8 是万亿 MoE、超长上下文训练刚需,无硬件 FP8 加速卡已逐步退出主流训练市场
国际第一梯队:H200 / MI300X(FP8>3000 TFLOPS,超大规模预训练唯一选择)
国产第一梯队:MTT S5000、BR100(FP8≈1000 TFLOPS,国产唯一可对标 H100 训练卡)
国产中端:燧原 T20、思元 590、昆仑 X80(FP8 500–650 TFLOPS,百亿稠密模型训练)
存量老卡:A100/A800 无硬件 FP8,只能用 BF16,训练速度慢 40%+
2. FP16/BF16(传统稠密模型、科学计算基准)
英伟达 H200 FP16 接近 2000 TFLOPS,断层领先;
AMD MI300X 凭借超大显存,FP16 训练吞吐量接近 H200;
国产旗舰 FP16 集中在 250–520 TFLOPS 区间,满足 70B 及以下模型训练。
3. INT8(推理、量化部署、视频分析核心)
INT8 算力直接决定线上并发 QPS,边缘 / 推理场景优先看此项:
摩尔线程 S5000、壁仞 BR100 INT8 突破 2000 TOPS,推理吞吐接近 H100;
寒武纪、燧原、昆仑芯 INT8 算力均衡,适合政企推理集群;
边缘芯片(后摩 LQ50、RK3588)INT8 算力低,仅适配小模型实时推理。
二、实测性能关键补充(2026 FlagOS 统一测试结论)
1. 生态损耗差异
英伟达:算力实测利用率 78%–85%,CUDA/cuDNN 优化成熟;
AMD MI 系列:ROCm 利用率 70%–78%,MoE 模型优于同档英伟达;
国产通用 GPU(摩尔线程 / 壁仞 / 海光):利用率 62%–75%,FP8 优化持续迭代;
国产专用 AI 芯片(寒武纪 / 昆仑):推理利用率 80%+,训练利用率偏低 60%–68%。
2. 显存带宽决定真实算力
纸面算力再高,带宽不足会出现算力闲置:AMD MI300X 凭借 10.2TB/s 带宽,在超大批量预训练场景反超 H100;国产 S5000 1.6TB/s 带宽可流畅跑 70B 模型单卡推理。
3. FP8 增益实测
原生 FP8 硬件卡相比 BF16 训练:显存占用降低 50%、训练速度提升 28%–35%,万亿参数 MoE 模型差距进一步拉大。
三、场景选型参考
1. 超大规模万亿 MoE 预训练:H200 > MI300X
2. 国产化大模型训练(7B–70B):MTT S5000、BR100、燧原 T20
3. 政企信创推理集群:海光 DCU3.0、寒武纪思元 590、昆仑 X80
4. 工作站 / 本地 AI 微调:RTX PRO 5000 72G、RTX5090
5. 边缘工业 / 车规推理:后摩 LQ50、RK3588 算力模组
需求留言: