sheeps_/timm-tf_efficientnet_b5.ns_jft_in1k-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

timm/tf_efficientnet_b5.ns_jft_in1k 在昇腾 NPU 上的部署

1. 简介

本项目将 timm/tf_efficientnet_b5.ns_jft_in1k 图像分类模型适配到单卡昇腾 NPU(Ascend910)上运行。模型来源于 ModelScope,使用 timm 框架加载,通过 pretrained=False + 本地权重加载的方式避免 HuggingFace 自动下载。

  • 模型参数:30.39M
  • 输入尺寸:456 x 456
  • 输出类别:1000(ImageNet-1k)

2. 验证环境

项目版本/信息
NPUAscend910
CANN8.5.1
torch2.9.0+cpu
torch_npu已安装
timm1.0.27
deviceAscend910_9362

npu-smi 信息:

+--------------------------------------------------------------------------------------------+
| npu-smi 25.5.2                   Version: 25.5.2                                           |
| NPU   Name          | Health | Power(W) | Temp(C) | Memory-Usage(MB) | HBM-Usage(MB)      |
| 6     Ascend910     | OK     | 163.7    | 43      | 0 / 0            | 3106 / 65536       |
+--------------------------------------------------------------------------------------------+

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

  • Top-1: class_977 (0.319212)
  • Top-2: class_978 (0.248938)
  • Top-3: class_976 (0.045358)
  • Top-4: class_437 (0.040948)
  • Top-5: class_460 (0.025674)

日志保存在 logs/inference.log。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.007491
mean_abs_error0.001153
relative_error0.2222%
cosine_similarity0.999998
threshold1.0%
结果PASS
  • CPU Top-1: class_977
  • NPU Top-1: class_977
  • CPU Top-5: class_977, class_978, class_976, class_437, class_460
  • NPU Top-5: class_977, class_978, class_976, class_437, class_460
  • Top-1 match: True
  • Top-5 match: True

5. 性能参考

指标数值
avg_latency20.084 ms
min_latency19.590 ms
max_latency20.798 ms
p50_latency20.112 ms
p90_latency20.798 ms
p95_latency20.798 ms
images_per_sec49.79

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

见 screenshots/self_verification.png。

8. 日志文件

文件说明
logs/env_check.logNPU 环境检查
logs/inference.logNPU 推理结果
logs/accuracy.logCPU-NPU 精度一致性
logs/benchmark.logNPU 性能基准测试

9. 注意事项

  1. 权重通过 ModelScope snapshot_download 下载,严禁使用 pretrained=True 从 HuggingFace 自动下载。
  2. 输入尺寸由 timm.data.resolve_model_data_config 自动解析,本模型为 456 x 456。
  3. 推理脚本已包含 torch.npu.synchronize() 确保计时准确。
  4. 精度阈值设定为 relative_error < 1.0%。

10. 标签

#NPU #Ascend #Ascend910 #timm #EfficientNet #image-classification