将 InceptionV3 (timm/inception_v3.tv_in1k) 适配到华为昇腾 NPU (Ascend910)。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,无需 HuggingFace 直连下载。
python3 inference.py推理结果 (NPU):
| 排名 | 类别 | 概率 |
|---|---|---|
| Top-1 | class_80 | 0.063633 |
| Top-2 | class_980 | 0.049530 |
| Top-3 | class_115 | 0.041755 |
| Top-4 | class_973 | 0.032619 |
| Top-5 | class_83 | 0.025956 |
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.019016 |
| mean_abs_error | 0.002991 |
| relative_error | 0.3106% |
| cosine_similarity | 0.999995 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 10.77 ms |
| 最小延迟 | 10.62 ms |
| 最大延迟 | 10.91 ms |
| P50 延迟 | 10.75 ms |
| P90 延迟 | 10.91 ms |
| P95 延迟 | 10.91 ms |
| 吞吐量 | 92.87 images/sec |
测试条件:2 次预热 + 10 次正式测量,batch_size=1, input_size=299x299
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
截图内容见 screenshots/self_verification.png
logs/inference.loglogs/accuracy.loglogs/benchmark.loglogs/env_check.log#NPU