本项目将 timm/deit3_base_patch16_224.fb_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910)。
使用 ModelScope snapshot_download 下载本地权重,timm.create_model(..., pretrained=False) 加载,通过 torch_npu 在 NPU 上完成推理验证、CPU-NPU 精度一致性检查和性能基准测试。
详细环境信息见 logs/env_check.log。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.100917 |
| mean_abs_error | 0.066058 |
| relative_error | 0.9476% |
| cosine_similarity | 0.999997 |
| threshold | 1.0% |
| 结果 | PASS |
在 Ascend910 NPU 上单 batch 推理性能:
| 指标 | 数值 |
|---|---|
| avg_time_ms | 7.398 |
| min_time_ms | 7.307 |
| max_time_ms | 7.546 |
| p50_time_ms | 7.380 |
| p90_time_ms | 7.460 |
| p95_time_ms | 7.503 |
| images_per_sec | 135.17 |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/env_check.log — 环境检查logs/inference.log — 推理输出logs/accuracy.log — 精度一致性验证logs/benchmark.log — 性能基准测试pretrained=True 自动从 HuggingFace 下载。timm.data.resolve_model_data_config 获取模型配套预处理参数。torch.npu.synchronize() 保证时序正确。#NPU #Ascend #Ascend910 #timm #deit3 #image-classification