g
gyccc/facebook-deit-tiny-patch16-224-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

facebook/deit-tiny-patch16-224 在昇腾 NPU 上的部署

1. 简介

将 facebook/deit-tiny-patch16-224 模型适配至华为昇腾 NPU(Ascend910B)。通过 ModelScope 的 snapshot_download 功能下载权重文件,使用 transformers 库中的 ViTForImageClassification 类加载本地权重。

2. 验证环境

  • 硬件:华为昇腾 910B NPU
  • 操作系统:Linux 5.10.0-182.0.0.95.r2220_156.hce2.aarch64
  • Python:3.11.14
  • PyTorch:2.x + torch_npu
  • 模型来源:https://modelscope.cn/models/facebook/deit-tiny-patch16-224

3. 推理运行

由于普通 site-packages 目录不可写,默认使用用户安装模式 已满足要求:torch 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 1 行)(2.9.0+cpu) 已满足要求:torchvision 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 2 行)(0.24.0) 已满足要求:transformers 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 3 行)(4.57.6) 已满足要求:pillow 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 4 行)(12.2.0) 已满足要求:requests 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 5 行)(2.33.1) 已满足要求:numpy 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 6 行)(1.26.4) 已满足要求:huggingface_hub 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 7 行)(0.36.2) 已满足要求:accelerate 位于 /opt/atomgit/.local/lib/python3.11/site-packages(来自 -r requirements.txt 第 8 行)(1.13.0) 已满足要求:modelscope 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 9 行)(1.35.3) 已满足要求:timm 位于 /opt/atomgit/.local/lib/python3.11/site-packages(来自 -r requirements.txt 第 10 行)(1.0.27) 已满足要求:safetensors 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 -r requirements.txt 第 11 行)(0.7.0) 已满足要求:filelock 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(3.25.2) 已满足要求:typing-extensions>=4.10.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(4.15.0) 已满足要求:sympy>=1.13.3 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(1.14.0) 已满足要求:networkx>=2.5.1 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(3.6.1) 已满足要求:jinja2 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(3.1.6) 已满足要求:fsspec>=0.8.5 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->-r requirements.txt 第 1 行)(2026.3.0) 已满足要求:packaging>=20.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->-r requirements.txt 第 3 行)(26.0) 已满足要求:pyyaml>=5.1 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->-r requirements.txt 第 3 行)(6.0.3) 已满足要求:regex!=2019.12.17 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->-r requirements.txt 第 3 行)(2026.3.32) 已满足要求:tokenizers<=0.23.0,>=0.22.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->-r requirements.txt 第 3 行)(0.22.2) 已满足要求:tqdm>=4.27 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->-r requirements.txt 第 3 行)(4.67.3) 已满足要求:hf-xet<2.0.0,>=1.1.3 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 huggingface_hub->-r requirements.txt 第 7 行)(1.4.3) 已满足要求:charset_normalizer<4,>=2 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->-r requirements.txt 第 5 行)(3.4.6) 已满足要求:idna<4,>=2.5 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->-r requirements.txt 第 5 行)(3.11) 已满足要求:urllib3<3,>=1.26 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->-r requirements.txt 第 5 行)(2.6.3) 已满足要求:certifi>=2023.5.7 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->-r requirements.txt 第 5 行)(2026.2.25) 已满足要求:psutil 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 accelerate->-r requirements.txt 第 8 行)(7.2.2) 已满足要求:setuptools 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 modelscope->-r requirements.txt 第 9 行)(79.0.1) 已满足要求:mpmath<1.4,>=1.1.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 sympy>=1.13.3->torch->-r requirements.txt 第 1 行)(1.3.0) 已满足要求:MarkupSafe>=2.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 jinja2->torch->-r requirements.txt 第 1 行)(3.0.3) [LOG_WARNING] 无法创建目录,目录:/home/atomgit/ascend/log,可能原因:没有该文件或目录。路径字符串为 NULL路径字符串为 NULL正在从 https://www.modelscope.cn 下载模型至目录:/opt/atomgit/.cache/modelscope/hub/models/facebook/deit-tiny-patch16-224 Top-1:卡丁车 (0.0020) Top-2:出租车、计程车 (0.0020) Top-3:电影院、影剧院 (0.0020) Top-4:杂货店、食品市场 (0.0019) Top-5:购物篮 (0.0018)

推理结果(NPU Top-5):

  • 卡丁车 (0.0020)
  • 出租车、计程车 (0.0020)
  • 电影院、影剧院 (0.0020)
  • 杂货店、食品市场 (0.0019)
  • 购物篮 (0.0018)

日志保存在 。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.007157
mean_abs_error0.001773
relative_error0.8615%
cosine_similarity0.999964
threshold1.0%
结果PASS
  • CPU Top-1: go-kart
  • NPU Top-1: go-kart
  • CPU Top-5: go-kart, cab, hack, taxi, taxicab, cinema, movie theater, movie theatre, movie house, picture palace, grocery store, grocery, food market, market, kite
  • NPU Top-5: go-kart, cab, hack, taxi, taxicab, cinema, movie theater, movie theatre, movie house, picture palace, grocery store, grocery, food market, market, shopping basket
  • Top-1 match: True
  • Top-5 match: False

5. 性能参考

指标数值
平均延迟6.06 ms
吞吐量165.15 images/sec

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

截图保存在 。

8. 日志文件

  • — NPU 推理结果
  • — CPU-NPU 精度一致性验证
  • — 性能基准测试

9. 注意事项

  • 使用 + 本地权重加载,不依赖 HuggingFace 自动下载
  • Processor 尺寸已覆盖为 224 x 224 以匹配模型位置嵌入

10. 标签 #NPU