NPU 型号
FP16 算力
显存
对应华为整机
昇腾 Ascend 910B4
280T
32GB HBM2
Atlas 800I A2
昇腾 Ascend 910B3
313T
64GB HBM2
Atlas 800T A2
昇腾 Ascend 910B2
376T
64GB HBM2
昇腾 Ascend 910B1
414T
64GB HBM2
由于没有 fp8 计算单元，若要部署完整精度的 Deepseek R1，则需要将近 2T 显存，需要至少 4 台 8 卡 32GB 版本的 910B
Photo by A Chosen Soul on Unsplash