本项目将 timm/convnextv2_tiny.fcmae_ft_in22k_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910B) 单卡环境。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。
python inference.py推理结果:
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.013013 |
| mean_abs_error | 0.001971 |
| relative_error | 0.2550% |
| cosine_similarity | 0.999997 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 9.13 ms |
| 最小延迟 | 7.90 ms |
| 最大延迟 | 19.92 ms |
| P50 延迟 | 7.93 ms |
| P90 延迟 | 9.19 ms |
| P95 延迟 | 14.56 ms |
| 吞吐量 | 109.51 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
logs/inference.log — 推理结果日志logs/accuracy.log — CPU-NPU 精度一致性检查日志logs/benchmark.log — NPU 性能基准测试日志pretrained=False 加载模型结构,通过 ModelScope snapshot_download 获取本地权重后手动加载#NPU