将 timm/resnet34.tv_in1k 图片分类模型适配到华为昇腾 NPU(Ascend910)。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建结构并加载本地权重。
python inference.py输出示例:
=== NPU Inference: resnet34.tv_in1k ===
Output shape: torch.Size([1, 1000])
Top-1: class_623 (prob=0.0287)
Top-1: class_623 (prob=0.0287)
Top-2: class_892 (prob=0.0154)
Top-3: class_534 (prob=0.0139)
Top-4: class_111 (prob=0.0126)
Top-5: class_813 (prob=0.0120)对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.002411 |
| mean_abs_error | 0.000415 |
| relative_error | 0.0389% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 4.15 ms |
| 最小延迟 | 4.13 ms |
| 最大延迟 | 4.17 ms |
| P50 延迟 | 4.14 ms |
| P90 延迟 | 4.17 ms |
| P95 延迟 | 4.17 ms |
| 吞吐量 | 241.22 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log - 推理结果日志logs/accuracy.log - CPU-NPU 精度一致性验证日志logs/benchmark.log - 性能基准测试日志logs/env_check.log - NPU 环境检查日志#NPU #Ascend #ResNet34 #ImageClassification #timm