g
gyccc/timm-tf_efficientnet_lite3.in1k-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

timm/tf_efficientnet_lite3.in1k on Ascend NPU

1. 简介

本项目将 ModelScope 上的 timm/tf_efficientnet_lite3.in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910)。

  • 模型来源:https://modelscope.cn/models/timm/tf_efficientnet_lite3.in1k
  • 适配方式:使用 ModelScope snapshot_download 下载本地权重,通过 timm.create_model(pretrained=False) 构建模型结构并加载权重,无需 HuggingFace 直连下载。
  • 输入尺寸:300x300(由模型 data_config 自动解析)
  • 输出维度:1000 类 ImageNet 分类 logits

2. 验证环境

项目版本/型号
NPUAscend910
CANN8.0.RC2
PyTorch2.1.0
torch_npu2.1.0
timm1.0.x
modelscope1.x

3. 推理运行

pip install -r requirements.txt
python inference.py

model_utils.py 封装了统一的模型加载与预处理逻辑,供 inference.py、eval_accuracy.py、benchmark.py 复用。

4. 精度验证

python eval_accuracy.py

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.003634
mean_abs_error0.000834
relative_error0.1525%
cosine_similarity0.999999
threshold1.0%
结果PASS
  • CPU Top-1 与 NPU Top-1 类别一致
  • CPU Top-5 与 NPU Top-5 类别一致

5. 性能参考

运行 python benchmark.py(batch=1,预热 2 轮,正式 10 轮):

指标数值
Avg latency8.62 ms
Min latency8.57 ms
Max latency8.66 ms
P50 latency8.62 ms
P90 latency8.66 ms
P95 latency8.66 ms
Throughput116.07 images/sec

6. 精度评测

本项目未在完整 ImageNet 验证集上运行,仅提供单图 smoke consistency 检查。如需完整精度,请使用 ImageNet-val 数据集配合批量评测脚本。

7. 自验证截图

见 screenshots/self_verification.png 与 screenshots/self_verification.txt。

8. 日志文件

日志说明
logs/inference.log单图推理输出与 Top-5 预测
logs/accuracy.logCPU-NPU 精度一致性对比
logs/benchmark.log性能基准测试结果

9. 注意事项

  1. 权重文件(.safetensors / .bin / .pth 等)已通过 .gitignore 排除,不会提交到仓库。
  2. 首次运行时会通过 ModelScope 自动下载模型权重到本地缓存目录。
  3. 若 NPU 设备不可用,脚本会在迁移到 npu:0 时报错,请确保驱动和 CANN 环境已正确安装。

10. 标签

#NPU