本项目将 timm/resnetv2_50x1_bit.goog_in21k_ft_in1k 图片分类模型适配到单卡昇腾 NPU (Ascend910) 上运行。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,不使用 HuggingFace 直连下载。
pip install -r requirements.txt
python inference.py推理结果(单张测试图片):
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.003329 |
| mean_abs_error | 0.000658 |
| relative_error | 0.0616% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 7.84 ms |
| 最小延迟 | 7.66 ms |
| 最大延迟 | 8.02 ms |
| P50 延迟 | 7.88 ms |
| P90 延迟 | 7.95 ms |
| P95 延迟 | 7.99 ms |
| 吞吐量 | 127.58 images/sec |
测试条件:batch_size=1, input 224x224, 预热 2 次 + 正式 10 次。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
详见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
logs/inference.log - 推理结果logs/accuracy.log - 精度验证logs/benchmark.log - 性能基准logs/env_check.log - 环境信息#NPU #Ascend #Ascend910 #timm #image-classification