本项目将 timm/convmixer_768_32.in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910)。模型使用 ModelScope 下载本地权重,timm.create_model(pretrained=False) 加载,支持真实 NPU 推理、CPU-NPU 精度一致性验证与性能基准测试。
| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| PyTorch | 2.x |
| torch_npu | 对应版本 |
| timm | latest |
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.015085 |
| mean_abs_error | 0.003345 |
| relative_error | 0.3778% |
| cosine_similarity | 0.999990 |
| threshold | 1.0% |
| 结果 | PASS |
在 Ascend910 NPU 上单图推理性能(768x768 输入):
| 指标 | 数值 |
|---|---|
| avg_latency | 0.016290 s |
| min_latency | 0.016270 s |
| max_latency | 0.016321 s |
| p50_latency | 0.016282 s |
| p90_latency | 0.016321 s |
| p95_latency | 0.016321 s |
| images_per_sec | 61.39 |
测试配置:预热 2 次,正式测试 10 次,每次前后
torch.npu.synchronize()。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log — NPU 推理输出logs/accuracy.log — CPU-NPU 精度一致性logs/benchmark.log — 性能基准测试timm.create_model(..., pretrained=True),必须通过 ModelScope snapshot_download + 本地权重加载。timm.data.resolve_model_data_config 自动解析。.bin/.safetensors/.pth 等已加入 .gitignore)。#NPU #Ascend #Ascend910 #timm #image-classification