本项目将 timm/deit3_small_patch16_384.fb_in22k_ft_in1k 模型适配到昇腾 NPU (Ascend910) 上运行。该模型是 DeiT III (Data-efficient Image Transformers v3) Small 版本,patch size 为 16,输入分辨率为 384x384,在 ImageNet-22k 上预训练并在 ImageNet-1k 上微调。
适配方式:通过 ModelScope snapshot_download 下载权重,使用 timm.create_model(pretrained=False) 创建模型并加载本地权重,在单卡 NPU 上完成推理验证、精度一致性检查和性能基准测试。
| 项目 | 版本/信息 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| torch | 2.x |
| torch_npu | 适配 CANN 8.5.1 |
| timm | 最新版 |
| modelscope | 最新版 |
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.005669 |
| mean_abs_error | 0.001192 |
| relative_error | 0.4928% |
| cosine_similarity | 0.999987 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_time | 7.23 ms |
| min_time | 7.16 ms |
| max_time | 7.37 ms |
| p50 | 7.22 ms |
| p90 | 7.37 ms |
| p95 | 7.37 ms |
| images_per_sec | 138.33 |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log — NPU 推理输出logs/accuracy.log — CPU-NPU 精度一致性验证logs/benchmark.log — 性能基准测试logs/env_check.log — NPU 环境检查timm.data.resolve_model_data_config 自动解析预处理参数。pretrained=True 从 HuggingFace 自动下载。#NPU #Ascend #Ascend910 #timm #deit3 #image-classification