本文档记录 OpenMed/OpenMed-NER-ChemicalDetect-MultiMed-335M 在昇腾 NPU(Ascend910)环境的快速部署与验证结果。
相关获取地址:
| 组件 | 版本 |
|---|---|
| torch | ≥2.1.0 |
| torch_npu | ≥2.1.0 |
| transformers | ≥4.37.0 |
| CANN | 8.5.RC1 |
pip install transformers torchNPU 与 CPU 数值一致性对比:
| 指标 | 值 |
|---|---|
| Top-1 一致性 | 30/30 |
| 最大 Logit 差异率 | 0.047936 |
| 平均 KL 散度 | 3e-05 |
| 结论 | 通过 |
| 指标 | 值 |
|---|---|
| 硬件 | Ascend 910B |
| 平均推理时间 | 12.99ms |