本仓库包含了 timm 中的 swinv2_large_window12to16_192to256.ms_in22k_ft_in1k 模型在华为昇腾 NPU 上的适配与推理实现。
swinv2_large_window12to16_192to256.ms_in22k_ft_in1k (timm / HuggingFace Hub)本模型基于 timm 库加载预训练权重,模型权重通过 ModelScope 下载。在昇腾 NPU 上通过 torch_npu 实现硬件加速。
pip install -r requirements.txtpython inference.pypip install -r requirements.txtpython inference.pypython compare_cpu_npu.py| 指标 | 数值 |
|---|---|
| CPU 推理耗时 | 2.0619s |
| NPU 推理耗时 | 0.0249s |
| MAE (平均绝对误差) | 0.00187437 |
| Max Error (最大误差) | 0.01025271 |
| MSE (均方误差) | 6e-06 |
| 相对误差 | 0.00337435 |
| 误差百分比 | 0.3374 |
| 余弦相似度 | 0.99999703 |
| Top-5 索引一致性 | 是 |
结论: NPU 与 CPU 推理误差 < 1%
| 设备 | 推理耗时 (s) |
|---|---|
| CPU | 2.0619 |
| NPU | 0.0249 |
CPU inference time: 2.0619s
Top-5 indices: [921, 610, 549, 916, 446]
Top-5 values: [3.698457, 3.584402, 3.412715, 2.790531, 2.638508]
NPU inference time: 0.0249s
Top-5 indices: [921, 610, 549, 916, 446]
Top-5 values: [3.70871, 3.584567, 3.420927, 2.797829, 2.647559]
CPU/NPU Relative Error: 0.3374%Mean Absolute Error (MAE): 0.00187437
Max Absolute Error: 0.01025271
Cosine Similarity: 0.99999703
Relative Error: 0.00337435运行截图由 acend- 工具生成,展示推理成功画面。