本项目将 timm/nfnet_l0.ra2_in1k 图片分类模型适配到单卡昇腾 NPU (Ascend910) 运行。
timm/nfnet_l0.ra2_in1ktimm.create_model(pretrained=False) + ModelScope snapshot_download 本地权重加载npu:0| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 (Ascend910_9362) |
| npu-smi | 25.5.2 |
| PyTorch | torch + torch_npu |
| timm | latest |
环境详情见 logs/env_check.log。
pip install -r requirements.txt
python inference.pymodel_utils.py 提供统一的模型加载与预处理逻辑:
modelscope.snapshot_download 下载权重timm.create_model(pretrained=False) 创建模型结构timm.data.resolve_model_data_config + create_transform 获取官方预处理配置npu:0 执行推理Model: timm/nfnet_l0.ra2_in1k
Model class: NormFreeNet
Input shape: [1, 3, 224, 224]
Output shape: [1, 1000]
Top-5 predictions:
1. class_853 prob=0.146251
2. class_449 prob=0.057264
3. class_706 prob=0.035109
4. class_743 prob=0.032922
5. class_860 prob=0.032150python eval_accuracy.py对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.005065 |
| mean_abs_error | 0.000854 |
| relative_error | 0.1192% |
| cosine_similarity | 0.999999 |
| threshold | 1.0% |
| 结果 | PASS |
运行 python benchmark.py 在 npu:0 上测试吞吐量(warm-up 2 次 + 正式 10 次):
| 指标 | 数值 |
|---|---|
| avg latency | 0.010198 s |
| min latency | 0.009431 s |
| max latency | 0.014331 s |
| p50 latency | 0.009877 s |
| p90 latency | 0.014331 s |
| p95 latency | 0.014331 s |
| Throughput | 98.06 images/sec |
完整性能日志见 logs/benchmark.log。
详见 logs/accuracy.log:
验证摘要见 screenshots/self_verification.txt 和 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
logs/env_check.log | NPU 环境信息 |
logs/inference.log | 单图推理结果 |
logs/accuracy.log | CPU-NPU smoke 一致性对比 |
logs/benchmark.log | 性能基准测试 |
logs/paths.txt | 本地权重路径记录 |
.bin、.safetensors、.pth 等)通过 .gitignore 排除,运行时会自动从 ModelScope 下载。snapshot_download,无需 HuggingFace token 或网络环境。timm.data.resolve_model_data_config 获取模型官方预处理参数,确保与训练时一致。#NPU