facebook/deit-base-distilled-patch16-224 on Ascend NPU

1. 简介

将 facebook/deit-base-distilled-patch16-224（Data-efficient Image Transformer, Distilled）适配到华为昇腾 NPU (Ascend910B)。该模型是 DeiT-Base 的蒸馏版本，包含 student 和 teacher 分类头，使用 ViT 架构进行 ImageNet-1K 图片分类（1000 类）。

适配路径：ModelScope snapshot_download 下载权重 → transformers DeiTForImageClassificationWithTeacher 加载 → NPU 推理验证。

2. 验证环境

• 硬件：华为昇腾 910B NPU
• OS：Linux 5.10.0-182.0.0.95.r2220_156.hce2.aarch64
• Python：3.11.14
• PyTorch：2.x + torch_npu
• transformers：4.57.6
• 模型来源：https://modelscope.cn/models/facebook/deit-base-distilled-patch16-224

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果 (NPU Top-5):

• Top-1: bannister, banister, balustrade, balusters, handrail (0.8798)
• Top-2: limousine, limo (0.0332)
• Top-3: bullet train, bullet (0.0326)
• Top-4: vault (0.0267)
• Top-5: library (0.0017)

日志保存在 logs/inference.log。

4. 精度验证

对单张测试图片进行 CPU 与 NPU 一致性验证：

• CPU Top-1: bannister, banister, balustrade, balusters, handrail
• NPU Top-1: bannister, banister, balustrade, balusters, handrail
• CPU Top-5: bannister, banister, balustrade, balusters, handrail, bullet train, bullet, limousine, limo, vault, library
• NPU Top-5: bannister, banister, balustrade, balusters, handrail, limousine, limo, bullet train, bullet, vault, library
• Top-1 match: True
• Top-5 match: True

5. 性能参考

测试条件：batch_size=1, 10 次正式 + 2 次预热, npu:0 单卡。

6. 精度评测说明

本项目包含单图 smoke consistency 验证，非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

7. 自验证截图

截图保存在 screenshots/self_verification.png。

8. 日志文件

• logs/inference.log — NPU 推理结果
• logs/accuracy.log — CPU-NPU 精度一致性验证
• logs/benchmark.log — 性能基准测试
• logs/env_check.log — NPU 环境检查

9. 注意事项

• 该模型为蒸馏版本（Distilled），使用 DeiTForImageClassificationWithTeacher 加载
• Processor 需指定 size={"height": 224, "width": 224} 以匹配模型位置嵌入维度（198）
• 使用 pretrained=False + 本地权重加载，不依赖 HuggingFace 自动下载
• 精度验证为单图 smoke check，非 ImageNet 完整验证

10. 标签 #NPU