本工程将 timm/vit_srelpos_small_patch16_224.sw_in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910)上运行。
| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 25.5.2 |
| PyTorch | 2.x |
| torch_npu | 可用 |
| timm | latest |
| modelscope | latest |
环境详情见 logs/env_check.log。
pip install -r requirements.txt
python inference.py推理脚本使用 model_utils.py 统一加载模型,通过 timm.data.resolve_model_data_config 自动解析预处理配置,在 npu:0 上执行真实推理。
示例输出:
Top-5 预测:
1. class_449: 0.3771
2. class_718: 0.0702
3. class_460: 0.0673
4. class_978: 0.0578
5. class_977: 0.0521python eval_accuracy.py对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.020982 |
| mean_abs_error | 0.002282 |
| relative_error | 0.3945% |
| cosine_similarity | 0.999994 |
| threshold | 1.0% |
| 结果 | PASS |
python benchmark.py| 指标 | 数值 |
|---|---|
| 平均延迟 | 6.76 ms |
| 最小延迟 | 6.56 ms |
| 最大延迟 | 7.02 ms |
| P50 延迟 | 6.72 ms |
| P90 延迟 | 7.02 ms |
| 吞吐量 | 147.87 images/sec |
测试条件:batch=1, 224x224, 预热 2 次 + 正式 10 次。
未在完整 ImageNet-1k 验证集上跑官方精度,仅通过 smoke test 验证 CPU/NPU 输出一致性。如需完整精度,请使用 ImageNet 验证集运行官方评测。
见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
| 文件 | 内容 |
|---|---|
logs/env_check.log | NPU 环境信息 |
logs/inference.log | 推理结果 |
logs/accuracy.log | CPU-NPU 精度对比 |
logs/benchmark.log | 性能基准测试 |
logs/paths.txt | 模型与权重路径 |
snapshot_download 下载,不提交到仓库。timm.create_model(..., pretrained=True) 触发 HuggingFace 自动下载。#NPU #Ascend #timm #image-classification #ModelScope