本项目将 timm/seresnext50_32x4d.racm_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910),实现单卡推理。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建模型结构并加载本地权重,不使用 HuggingFace 直连下载。
python inference.py输出 Top-5 预测结果,日志写入 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.004019 |
| mean_abs_error | 0.000738 |
| relative_error | 0.0314% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_latency | 7.44 ms |
| min_latency | 7.06 ms |
| max_latency | 8.16 ms |
| p50_latency | 7.42 ms |
| p90_latency | 7.75 ms |
| p95_latency | 7.85 ms |
| throughput | 134.49 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。

logs/inference.log - 推理结果日志logs/accuracy.log - 精度一致性验证日志logs/benchmark.log - 性能基准测试日志logs/env_check.log - 环境检查日志pretrained=False + 本地权重加载,不依赖 HuggingFace 自动下载#NPU