w
gcw_uQ09W7jl/Genius-Society-ViT-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

Genius-Society/ViT on Ascend NPU

1. 简介

本项目将 ModelScope 上的 Genius-Society/ViT(torchvision ViT-B/16,ImageNet-1k 1000 类分类)适配到单卡昇腾 NPU(Ascend910B)。使用 ModelScope snapshot_download 下载 .pth 权重,通过 torchvision.models.vision_transformer.vit_b_16 加载本地权重,并在 npu:0 上完成真实推理。

2. 验证环境

  • 硬件:Ascend910B (Ascend910_9362)
  • CANN:8.5.1
  • PyTorch:2.x + torch_npu
  • 芯片健康状态:OK

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

RankClassProbability
Top-1class_4370.0709
Top-2class_5170.0422
Top-3class_9080.0362
Top-4class_9780.0288
Top-5class_4170.0287

日志保存在 logs/inference.log。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.024725
mean_abs_error0.004766
relative_error0.5390%
cosine_similarity0.999988
threshold1.0%
结果PASS

CPU Top-1: class_437 NPU Top-1: class_437 CPU Top-5: class_437, class_517, class_908, class_978, class_417 NPU Top-5: class_437, class_517, class_908, class_978, class_417 Top-1 match: True Top-5 match: True

5. 性能参考

指标数值
avg_latency5.18 ms
min_latency5.11 ms
max_latency5.27 ms
p50_latency5.17 ms
p90_latency5.27 ms
throughput193.20 images/sec

日志保存在 logs/benchmark.log。

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

见 screenshots/self_verification.txt。

8. 日志文件

  • logs/env_check.log — NPU 环境检查
  • logs/inference.log — NPU 推理 Top-5 结果
  • logs/accuracy.log — CPU-NPU 精度一致性检查
  • logs/benchmark.log — NPU 性能基准测试

9. 注意事项

  • 权重文件(.pth)未提交到仓库,首次运行时会通过 ModelScope snapshot_download 自动下载到本地缓存目录。
  • 测试图片 assets/test.jpg 为平滑渐变合成图,用于 smoke consistency 验证。
  • 若遇到 torch_npu 权限警告(/usr/local/Ascend/cann-8.5.1 owner mismatch),不影响推理和精度结果。

10. 标签

#NPU #Ascend #ViT #ImageNet #ModelScope