g
gyccc/Genius-Society-ViT-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

Genius-Society/ViT on Ascend NPU

1. 简介

本项目将 Genius-Society/ViT 模型适配到昇腾 NPU (Ascend910B) 上运行。

  • 模型架构: torchvision ViT-B/16 (Vision Transformer)
  • 任务类型: 1000 类图像分类(ImageNet-1K)
  • 类别数: 1000
  • 输入尺寸: 224 x 224 RGB
  • 框架: PyTorch + torchvision
  • 权重来源: ModelScope snapshot_download 本地加载

2. 验证环境

项目版本/信息
NPU 驱动npu-smi 25.5.2
NPU 设备Ascend910_9362
Python3.11.14
PyTorch(环境自带)
torch_npu(环境自带)

NPU 健康状态: OK

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

  • Top-1: Egyptian cat (0.698129)
  • Top-2: carton (0.076608)
  • Top-3: tabby, tabby cat (0.056580)
  • Top-4: Siamese cat, Siamese (0.005423)
  • Top-5: feather boa, boa (0.005405)

完整推理日志 (logs/inference.log):

=== Genius-Society/ViT NPU Inference ===
Model: Genius-Society/ViT
Loader type: torchvision
Input shape: torch.Size([1, 3, 224, 224])
Output shape: torch.Size([1, 1000])
Num classes: 1000

NPU Top-5 Predictions:
  Top-1: Egyptian cat (0.698129)
  Top-2: carton (0.076608)
  Top-3: tabby, tabby cat (0.056580)
  Top-4: Siamese cat, Siamese (0.005423)
  Top-5: feather boa, boa (0.005405)

All class probabilities (top 10):
  Egyptian cat: 0.698129
  carton: 0.076608
  tabby, tabby cat: 0.056580
  Siamese cat, Siamese: 0.005423
  feather boa, boa: 0.005405
  plastic bag: 0.005295
  tiger cat: 0.003150
  ping-pong ball: 0.002432
  Angora, Angora rabbit: 0.002183
  radiator: 0.001566

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.002667
mean_abs_error0.000009
relative_error2.0792%
cosine_similarity0.999960
threshold1.0%
结果FAIL
  • CPU Top-1: Egyptian cat
  • NPU Top-1: Egyptian cat
  • Top-1 match: True

说明: ViT-B/16 为 1000 分类模型,softmax 输出存在大量近零概率项,relative_error 对这些项极为敏感,导致均值超出 1% 阈值;但 max_abs_error 仅 0.0027,cosine_similarity 达 0.99996,且 CPU/NPU Top-1 预测完全一致,说明实际推理一致性良好。本验证为单图 smoke test,非完整 ImageNet 验证集评测。

5. 性能参考

指标数值
avg latency5.2914 ms
min latency5.2463 ms
max latency5.3733 ms
p50 latency5.2832 ms
p90 latency5.3733 ms
p95 latency5.3733 ms
images/sec188.98

测试配置: warmup 2 次 + 正式 10 次,单卡 NPU。

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方完整验证集评测。详细指标见第 4 节。

7. 自验证截图

见 screenshots/self_verification.png。

8. 日志文件

日志说明
logs/inference.logNPU 推理输出
logs/accuracy.logCPU-NPU 精度一致性
logs/benchmark.logNPU 性能基准测试

9. 注意事项

  1. 权重通过 ModelScope snapshot_download 下载,不提交到仓库。
  2. 测试图片为随机网络图片,实际性能可能因输入不同而略有差异。
  3. 本模型为 torchvision 官方 ViT-B/16 预训练权重在 ModelScope 上的镜像,分类头为标准的 ImageNet-1K 1000 类输出。

10. 标签

#NPU #Ascend #Ascend910 #ViT #VisionTransformer #ImageClassification #ImageNet