g
gyccc/facebook-deit-small-patch16-224-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

facebook/deit-small-patch16-224 在昇腾 NPU 上的部署

1. 简介

将 facebook/deit-small-patch16-224 模型适配至华为昇腾 NPU(Ascend910B)。通过 ModelScope 的 snapshot_download 功能下载权重文件,并使用 transformers 库中的 ViTForImageClassification 类加载本地权重。

2. 验证环境

  • 硬件:华为昇腾 910B NPU
  • 操作系统:Linux 5.10.0-182.0.0.95.r2220_156.hce2.aarch64
  • Python:3.11.14
  • PyTorch:2.x + torch_npu
  • 模型来源:https://modelscope.cn/models/facebook/deit-small-patch16-224

3. 推理运行

由于普通 site-packages 目录不可写,默认使用用户目录进行安装 已满足要求:torch 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 1 行)(2.9.0+cpu) 已满足要求:torchvision 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 2 行)(0.24.0) 已满足要求:transformers 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 3 行)(4.57.6) 已满足要求:pillow 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 4 行)(12.2.0) 已满足要求:requests 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 5 行)(2.33.1) 已满足要求:numpy 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 6 行)(1.26.4) 已满足要求:huggingface_hub 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 7 行)(0.36.2) 正在收集 accelerate(来自 requirements.txt 第 8 行) 正在下载 accelerate-1.13.0-py3-none-any.whl.metadata (19 kB) 已满足要求:modelscope 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 9 行)(1.35.3) 已满足要求:timm 位于 /opt/atomgit/.local/lib/python3.11/site-packages(来自 requirements.txt 第 10 行)(1.0.27) 已满足要求:safetensors 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requirements.txt 第 11 行)(0.7.0) 已满足要求:filelock 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(3.25.2) 已满足要求:typing-extensions>=4.10.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(4.15.0) 已满足要求:sympy>=1.13.3 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(1.14.0) 已满足要求:networkx>=2.5.1 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(3.6.1) 已满足要求:jinja2 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(3.1.6) 已满足要求:fsspec>=0.8.5 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 torch->requirements.txt 第 1 行)(2026.3.0) 已满足要求:packaging>=20.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->requirements.txt 第 3 行)(26.0) 已满足要求:pyyaml>=5.1 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->requirements.txt 第 3 行)(6.0.3) 已满足要求:regex!=2019.12.17 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->requirements.txt 第 3 行)(2026.3.32) 已满足要求:tokenizers<=0.23.0,>=0.22.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->requirements.txt 第 3 行)(0.22.2) 已满足要求:tqdm>=4.27 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 transformers->requirements.txt 第 3 行)(4.67.3) 已满足要求:hf-xet<2.0.0,>=1.1.3 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 huggingface_hub->requirements.txt 第 7 行)(1.4.3) 已满足要求:charset_normalizer<4,>=2 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->requirements.txt 第 5 行)(3.4.6) 已满足要求:idna<4,>=2.5 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->requirements.txt 第 5 行)(3.11) 已满足要求:urllib3<3,>=1.26 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->requirements.txt 第 5 行)(2.6.3) 已满足要求:certifi>=2023.5.7 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 requests->requirements.txt 第 5 行)(2026.2.25) 已满足要求:psutil 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 accelerate->requirements.txt 第 8 行)(7.2.2) 已满足要求:setuptools 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 modelscope->requirements.txt 第 9 行)(79.0.1) 已满足要求:mpmath<1.4,>=1.1.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 sympy>=1.13.3->torch->requirements.txt 第 1 行)(1.3.0) 已满足要求:MarkupSafe>=2.0 位于 /usr/local/python3.11.14/lib/python3.11/site-packages(来自 jinja2->torch->requirements.txt 第 1 行)(3.0.3) 正在下载 accelerate-1.13.0-py3-none-any.whl (383 kB) 正在安装收集的包:accelerate 成功安装 accelerate-1.13.0 [LOG_WARNING] 无法创建目录,目录:/home/atomgit/ascend/log,可能原因:没有该文件或目录。路径字符串为 NULL路径字符串为 NULL正在从 https://www.modelscope.cn 下载模型至目录:/opt/atomgit/.cache/modelscope/hub/models/facebook/deit-small-patch16-224 Top-1:bannister, banister, balustrade, balusters, handrail(0.0936) Top-2:palace(0.0508) Top-3:triumphal arch(0.0231) Top-4:vault(0.0217) Top-5:lumbermill, sawmill(0.0161)

推理结果(NPU Top-5):

  • bannister, banister, balustrade, balusters, handrail(0.0936)
  • palace(0.0508)
  • triumphal arch(0.0231)
  • vault(0.0217)
  • lumbermill, sawmill(0.0161)

日志保存在 。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证:

指标数值
max_abs_error0.025991
mean_abs_error0.004812
relative_error0.6588%
cosine_similarity0.999985
threshold1.0%
结果PASS
  • CPU Top-1: bannister, banister, balustrade, balusters, handrail
  • NPU Top-1: bannister, banister, balustrade, balusters, handrail
  • CPU Top-5: bannister, banister, balustrade, balusters, handrail, palace, triumphal arch, vault, lumbermill, sawmill
  • NPU Top-5: bannister, banister, balustrade, balusters, handrail, palace, triumphal arch, vault, lumbermill, sawmill
  • Top-1 match: True
  • Top-5 match: True

5. 性能参考

指标数值
平均延迟6.02 ms
吞吐量166.16 images/sec

6. 精度评测说明

本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

截图保存在 。

8. 日志文件

  • — NPU 推理结果
  • — CPU-NPU 精度一致性验证
  • — 性能基准测试

9. 注意事项

  • 使用 + 本地权重加载,不依赖 HuggingFace 自动下载
  • Processor 尺寸已覆盖为 224 x 224 以匹配模型位置嵌入

10. 标签 #NPU