本工程将 timm/deit3_small_patch16_384.fb_in22k_ft_in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910B)上运行。
timm/deit3_small_patch16_384.fb_in22k_ft_in1k)timm.create_model(pretrained=False) + ModelScope snapshot_download 本地权重加载timm.data.resolve_model_data_config + create_transform 自动生成| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | npu-smi 25.5.2 |
| PyTorch | 2.9.0+cpu |
| torch_npu | 可用 |
| timm | 最新版 |
详细环境信息见 logs/env_check.log。
pip install -r requirements.txt
python inference.pymodel_utils.py 统一加载模型和预处理npu:0 上推理[1, 3, 384, 384][1, 1000]推理结果示例(Top-5):
1. class_562: 0.1253
2. class_727: 0.0534
3. class_566: 0.0480
4. class_577: 0.0408
5. class_818: 0.0379完整日志见 logs/inference.log。
python eval_accuracy.py对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.016304 |
| mean_abs_error | 0.003369 |
| relative_error | 0.3517% |
| cosine_similarity | 0.999994 |
| threshold | 1.0% |
| 结果 | PASS |
python benchmark.py| 指标 | 数值 |
|---|---|
| 设备 | npu:0 |
| 输入 | [1, 3, 384, 384] |
| Warmup | 2 次 |
| 正式运行 | 10 次 |
| Avg latency | 5.59 ms |
| Min latency | 5.51 ms |
| Max latency | 5.70 ms |
| P50 latency | 5.59 ms |
| P90 latency | 5.70 ms |
| P95 latency | 5.70 ms |
| Throughput | 178.75 images/sec |
完整日志见 logs/benchmark.log。
本工程未在完整 ImageNet-1k 验证集上运行官方精度评测,仅提供单图 smoke consistency 验证作为参考。如需完整精度评测,请使用 ImageNet-1k val 数据集配合 timm 官方评估脚本。
见 screenshots/self_verification.txt 和 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
logs/env_check.log | NPU 环境检查 |
logs/inference.log | 推理结果 |
logs/accuracy.log | CPU-NPU 精度一致性 |
logs/benchmark.log | 性能基准测试 |
snapshot_download 下载,不使用 HuggingFace 直连下载。pretrained=False,再通过本地路径加载权重,避免自动下载。timm.data.resolve_model_data_config 自动解析模型对应的数据配置,无需手动设置 mean/std/interpolation。.bin / .safetensors / .pth 等已被 .gitignore 排除)。pip install -r requirements.txt,首次运行会自动下载权重到本地缓存。#NPU #Ascend #timm #image-classification