本项目将 timm/xcit_tiny_12_p16_224.fb_in1k 图片分类模型适配到华为昇腾 NPU(Ascend910)上运行。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建模型结构并加载本地权重,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。
requirements.txtpip install -r requirements.txt
python inference.py推理结果示例:
Top-5 predictions:
1. class_0146 (7.93%)
2. class_0147 (6.94%)
3. class_0020 (6.19%)
4. class_0098 (4.29%)
5. class_0360 (3.80%)对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.045722 |
| mean_abs_error | 0.006184 |
| relative_error | 0.7805% |
| cosine_similarity | 0.999973 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| Avg Latency | 16.39 ms |
| Min Latency | 11.57 ms |
| Max Latency | 33.99 ms |
| P50 | 12.56 ms |
| P90 | 33.99 ms |
| P95 | 33.99 ms |
| Throughput | 61.03 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log - 推理结果logs/accuracy.log - 精度验证logs/benchmark.log - 性能基准logs/env_check.log - 环境检查#NPU