本项目将 timm 预训练模型 deit_tiny_patch16_224.fb_in1k(DeiT-Tiny,Patch16,224x224,ImageNet-1K)适配到华为昇腾 NPU(Ascend910)上运行,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。
timm/deit_tiny_patch16_224.fb_in1ktimm.create_model(pretrained=False) + ModelScope snapshot_download 本地权重| 项目 | 信息 |
|---|---|
| 硬件 | 华为昇腾 910 (Ascend910_9362) |
| 框架 | PyTorch + torch_npu |
| timm 版本 | 1.0.27 |
| 适配方式 | ModelScope snapshot_download + 本地权重加载 |
python inference.py推理结果(Top-5):
| 排名 | 类别 | 概率 |
|---|---|---|
| 1 | class_979 | 0.2013 |
| 2 | class_970 | 0.1956 |
| 3 | class_980 | 0.0640 |
| 4 | class_975 | 0.0582 |
| 5 | class_976 | 0.0574 |
输出 shape: [1, 1000]
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.023531 |
| mean_abs_error | 0.003190 |
| relative_error | 0.4602% |
| cosine_similarity | 0.999994 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg | 5.31 ms |
| min | 5.23 ms |
| max | 5.41 ms |
| p50 | 5.30 ms |
| p90 | 5.34 ms |
| p95 | 5.38 ms |
| throughput | 188.49 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
详见 screenshots/self_verification.png。
logs/inference.log — 推理结果日志logs/accuracy.log — 精度验证日志logs/benchmark.log — 性能基准日志timm.create_model(pretrained=False) 加载本地权重,不使用 pretrained=True#NPU