sheeps_/timm-vit_base_patch16_224.augreg_in21k-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

timm/vit_base_patch16_224.augreg_in21k on Ascend NPU

1. 简介

本项目将 timm/vit_base_patch16_224.augreg_in21k 适配到昇腾 NPU (Ascend910) 上进行图片分类推理。

该模型为 Vision Transformer (ViT) Base,Patch Size 16x16,输入分辨率 224x224,在 ImageNet-21k 上预训练,输出 21843 个类别 logits。

2. 验证环境

  • 硬件:Ascend910
  • CANN 版本:8.5.1
  • PyTorch:2.9.0+cpu
  • torch_npu:适配 CANN-8.5.1

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

  • Top-1: class_5063 (0.359207)
  • Top-2: class_9212 (0.119120)
  • Top-3: class_10999 (0.065833)
  • Top-4: class_5306 (0.060704)
  • Top-5: class_11503 (0.040750)

日志保存在 logs/inference.log。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.128332
mean_abs_error0.034897
relative_error0.2350%
cosine_similarity0.999999
threshold1.0%
结果PASS
  • CPU Top-1: class_5063
  • NPU Top-1: class_5063
  • CPU Top-5: class_5063, class_9212, class_10999, class_5306, class_11503
  • NPU Top-5: class_5063, class_9212, class_10999, class_5306, class_11503
  • Top-1 match: True
  • Top-5 match: True

5. 性能参考

指标数值
warmup_iterations2
benchmark_iterations10
avg_latency(s)0.005240
min_latency(s)0.005183
max_latency(s)0.005309
p50_latency(s)0.005233
p90_latency(s)0.005298
p95_latency(s)0.005303
images_per_sec190.86

日志保存在 logs/benchmark.log。

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

见 screenshots/self_verification.png。

8. 日志文件

  • logs/env_check.log — NPU 环境信息
  • logs/inference.log — NPU 推理结果
  • logs/accuracy.log — CPU-NPU 精度一致性
  • logs/benchmark.log — 性能基准测试

9. 注意事项

  • 权重通过 ModelScope snapshot_download 下载,严禁使用 timm.create_model(..., pretrained=True) 自动从 HuggingFace 下载。
  • 模型输出为 ImageNet-21k 的 21843 类 logits,无标准类别名称,故以 class_<index> 形式展示。
  • 推理脚本已包含 torch.npu.synchronize() 确保时序正确。

10. 标签

#NPU