liucu/timm-vit_tiny_patch16_224.augreg_in21k-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

timm/vit_tiny_patch16_224.augreg_in21k on Ascend NPU

1. 简介

本项目将 timm/vit_tiny_patch16_224.augreg_in21k 适配到单卡昇腾 NPU(Ascend910)上运行,支持图片分类推理。

  • 模型来源:timm (HuggingFace 图片分类模型)
  • 适配方式:ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建模型并加载本地权重
  • 任务类型:image-classification
  • 输入尺寸:224x224
  • 输出类别数:21843(ImageNet-21k)

2. 验证环境

项目版本/信息
NPUAscend910_9362
npu-smi25.5.2
Python3.11.14
PyTorch2.9.0+cpu
torch_npu已安装
timm1.0.27
modelscope已安装

NPU 状态(npu-smi info 摘要):

  • 卡 0: Ascend910, Health=OK, HBM=3113/65536 MB
  • 卡 1: Ascend910, Health=OK, HBM=2869/65536 MB

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

  • Top-1: class_4334 (0.003761)
  • Top-2: class_4668 (0.003456)
  • Top-3: class_6255 (0.003341)
  • Top-4: class_6966 (0.002748)
  • Top-5: class_10105 (0.002638)

日志保存在 logs/inference.log。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.036743
mean_abs_error0.006481
relative_error0.0541%
cosine_similarity1.000000
threshold1.0%
结果PASS
  • CPU Top-1: class_4334
  • NPU Top-1: class_4334
  • CPU Top-5: class_4334, class_4668, class_6255, class_6966, class_10105
  • NPU Top-5: class_4334, class_4668, class_6255, class_6966, class_10105
  • Top-1 match: True
  • Top-5 match: True

5. 性能参考

指标数值
avg latency5.225 ms
min latency5.191 ms
max latency5.266 ms
p50 latency5.220 ms
p90 latency5.249 ms
p95 latency5.249 ms
吞吐量191.37 images/sec

测试条件:warm-up 2 次,正式运行 10 次,单卡 npu:0,batch_size=1,输入 224x224。

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

见 screenshots/self_verification.png 与 screenshots/self_verification.txt。

8. 日志文件

日志说明
logs/env_check.logNPU 环境检查
logs/inference.logNPU 推理输出
logs/accuracy.logCPU-NPU 精度一致性
logs/benchmark.log性能基准测试

9. 注意事项

  1. 权重通过 ModelScope snapshot_download 下载,运行时自动缓存到本地,无需手动放置。
  2. 严禁使用 timm.create_model(..., pretrained=True) 触发 HuggingFace 自动下载。
  3. 测试图片为占位图(网络不可达时生成),实际部署时请替换为真实图片。
  4. 模型权重文件(.safetensors/.bin/.pth 等)已加入 .gitignore,不会提交到仓库。

10. 标签

#NPU #Ascend #Ascend910 #timm #ViT #image-classification