本项目将 timm/tinynet_d.in1k 图片分类模型适配到昇腾 NPU (Ascend910)。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,实现单卡 NPU 推理、精度一致性验证与性能基准测试。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.010210 |
| mean_abs_error | 0.001653 |
| relative_error | 0.1670% |
| cosine_similarity | 0.999999 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg latency | 5.40 ms |
| min latency | 5.37 ms |
| max latency | 5.45 ms |
| p50 latency | 5.40 ms |
| p90 latency | 5.42 ms |
| p95 latency | 5.43 ms |
| throughput | 185.30 images/sec |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log — 推理输出logs/accuracy.log — 精度一致性验证logs/benchmark.log — 性能基准测试logs/env_check.log — NPU 环境信息logs/stage0.log — 阶段 0 模型可用性检查timm.create_model(..., pretrained=True) 从 HuggingFace 自动下载权重;本项目通过 ModelScope snapshot_download 获取权重并本地加载。#NPU