本文档记录 huangxp/hwtcmner 在昇腾 NPU(Ascend910)环境的快速部署与验证结果。
相关获取地址:
| 组件 | 版本 |
|---|---|
| torch | ≥2.1.0 |
| torch_npu | ≥2.1.0 |
| transformers | ≥4.37.0 |
| CANN | 8.5.RC1 |
pip install transformers torchNPU 与 CPU 数值一致性对比:
| 指标 | 值 |
|---|---|
| Top-1 一致性 | 4/4 |
| Max Logit Diff Ratio | 3.1e-05 |
| Avg KL Divergence | 0.0 |
| Min Cosine Similarity | 0.99996901 |
| 结论 | PASS |
| 指标 | 值 |
|---|---|
| 硬件 | Ascend 910B |
| 平均推理时间 | 6.71ms |