本项目将 timm/maxvit_base_tf_384.in21k_ft_in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910)上运行。
timm.create_model(pretrained=False) + ModelScope snapshot_download 本地权重加载| 项目 | 版本/信息 |
|---|---|
| NPU | Ascend910 (2 x Ascend910) |
| npu-smi | 25.5.2 |
| torch | 2.9.0+cpu |
| torch_npu | 2.9.0.post1 |
| timm | 1.0.27 |
| modelscope | 1.35.3 |
| transformers | 4.57.6 |
| safetensors | 0.7.0 |
python inference.pyNPU 推理结果 (单张测试图):
| 项目 | 数值 |
|---|---|
| Input shape | [1, 3, 384, 384] |
| Output shape | [1, 1000] |
| Top-1 | class_451 (0.003134) |
| Top-5 | class_451, class_111, class_359, class_906, class_714 |
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.001176 |
| mean_abs_error | 0.000262 |
| relative_error | 0.0956% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
python benchmark.py| 指标 | 数值 |
|---|---|
| runs | 10 |
| avg_latency_ms | 49.090 |
| min_latency_ms | 48.887 |
| max_latency_ms | 49.513 |
| p50_latency_ms | 49.094 |
| p90_latency_ms | 49.404 |
| p95_latency_ms | 49.404 |
| images_per_sec | 20.37 |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
| 日志 | 说明 |
|---|---|
logs/env_check.log | NPU 环境信息 |
logs/inference.log | NPU 推理结果 |
logs/accuracy.log | CPU-NPU 精度一致性 |
logs/benchmark.log | NPU 性能基准 |
snapshot_download 作为唯一下载方式。.safetensors、.bin、.pth、.pt、.ckpt、.onnx 等权重文件,运行时自动从 ModelScope 下载。timm.create_model(..., pretrained=False) 创建,再加载本地下载的权重。assets/test.jpg 为生成的占位图,不影响推理验证流程。timm.data.resolve_model_data_config 自动配置。