本项目将 timm/convnext_base.fb_in22k 适配到昇腾 NPU (Ascend910) 上运行,支持单卡推理、CPU-NPU 精度一致性检查和性能基准测试。
pip install -r requirements.txt
python inference.py推理脚本使用 timm.create_model(pretrained=False) 创建模型结构,并通过 ModelScope 下载的本地权重进行加载,在 npu:0 上执行真实推理。
推理输出示例:
Model: timm/convnext_base.fb_in22k
Weights: /opt/atomgit/.cache/modelscope/hub/models/timm/convnext_base___fb_in22k/model.safetensors
Missing keys: 0, Unexpected keys: 0
Input shape: [1, 3, 224, 224]
Output shape: [1, 21841]
Top-5 predictions:
1. class_6299: 0.096303
2. class_10490: 0.087213
3. class_10146: 0.082425
4. class_4877: 0.055990
5. class_5753: 0.036039python eval_accuracy.py对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.029718 |
| mean_abs_error | 0.004601 |
| relative_error | 0.6639% |
| cosine_similarity | 0.999983 |
| threshold | 1.0% |
| 结果 | PASS |
python benchmark.py| 指标 | 数值 |
|---|---|
| 平均延迟 | 14.98 ms |
| P50 延迟 | 14.99 ms |
| P90 延迟 | 15.01 ms |
| 吞吐量 | 66.74 images/sec |
本仓库仅提供单图 smoke consistency 验证,非 ImageNet 官方精度。官方 ImageNet-22k 预训练权重,ImageNet-1k fine-tune 后 Top-1 约 85.8%(参考 timm 官方文档)。
见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
| 日志 | 说明 |
|---|---|
logs/env_check.log | NPU 环境信息 |
logs/inference.log | 推理输出 |
logs/accuracy.log | CPU-NPU 一致性对比 |
logs/benchmark.log | 性能基准测试结果 |
snapshot_download 下载,不随仓库提交timm.create_model(..., pretrained=True) 触发 HuggingFace 直连下载timm.data.resolve_model_data_config + create_transform,与训练时保持一致#NPU