本项目将 timm/tf_efficientnet_b5.ns_jft_in1k 图像分类模型适配到单卡昇腾 NPU(Ascend910)上运行。模型来源于 ModelScope,使用 timm 框架加载,通过 pretrained=False + 本地权重加载的方式避免 HuggingFace 自动下载。
| 项目 | 版本/信息 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| torch | 2.9.0+cpu |
| torch_npu | 已安装 |
| timm | 1.0.27 |
| device | Ascend910_9362 |
npu-smi 信息:
+--------------------------------------------------------------------------------------------+
| npu-smi 25.5.2 Version: 25.5.2 |
| NPU Name | Health | Power(W) | Temp(C) | Memory-Usage(MB) | HBM-Usage(MB) |
| 6 Ascend910 | OK | 163.7 | 43 | 0 / 0 | 3106 / 65536 |
+--------------------------------------------------------------------------------------------+pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.007491 |
| mean_abs_error | 0.001153 |
| relative_error | 0.2222% |
| cosine_similarity | 0.999998 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_latency | 20.084 ms |
| min_latency | 19.590 ms |
| max_latency | 20.798 ms |
| p50_latency | 20.112 ms |
| p90_latency | 20.798 ms |
| p95_latency | 20.798 ms |
| images_per_sec | 49.79 |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
logs/env_check.log | NPU 环境检查 |
logs/inference.log | NPU 推理结果 |
logs/accuracy.log | CPU-NPU 精度一致性 |
logs/benchmark.log | NPU 性能基准测试 |
snapshot_download 下载,严禁使用 pretrained=True 从 HuggingFace 自动下载。timm.data.resolve_model_data_config 自动解析,本模型为 456 x 456。torch.npu.synchronize() 确保计时准确。#NPU #Ascend #Ascend910 #timm #EfficientNet #image-classification