将 facebook/deit-base-distilled-patch16-224(Data-efficient Image Transformer, Distilled)适配到华为昇腾 NPU (Ascend910B)。该模型是 DeiT-Base 的蒸馏版本,包含 student 和 teacher 分类头,使用 ViT 架构进行 ImageNet-1K 图片分类(1000 类)。
适配路径:ModelScope snapshot_download 下载权重 → transformers DeiTForImageClassificationWithTeacher 加载 → NPU 推理验证。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.051248 |
| mean_abs_error | 0.008802 |
| relative_error | 0.8772% |
| cosine_similarity | 0.999967 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| Avg latency | 6.02 ms |
| Min latency | 5.95 ms |
| Max latency | 6.08 ms |
| P50 latency | 6.01 ms |
| P90 latency | 6.07 ms |
| P95 latency | 6.07 ms |
| Throughput | 166.18 images/sec |
测试条件:batch_size=1, 10 次正式 + 2 次预热, npu:0 单卡。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
截图保存在 screenshots/self_verification.png。
logs/inference.log — NPU 推理结果logs/accuracy.log — CPU-NPU 精度一致性验证logs/benchmark.log — 性能基准测试logs/env_check.log — NPU 环境检查DeiTForImageClassificationWithTeacher 加载size={"height": 224, "width": 224} 以匹配模型位置嵌入维度(198)pretrained=False + 本地权重加载,不依赖 HuggingFace 自动下载