将 timm/tf_mobilenetv3_small_minimal_100.in1k 图片分类模型适配到华为昇腾 NPU (Ascend910),使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,支持单卡 NPU 推理。
pip install -r requirements.txt
python inference.py推理结果(Top-5):
| 排名 | 类别 | 置信度 |
|---|---|---|
| Top-1 | class_788 | 0.1018 |
| Top-2 | class_573 | 0.0632 |
| Top-3 | class_865 | 0.0423 |
| Top-4 | class_667 | 0.0356 |
| Top-5 | class_582 | 0.0287 |
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.027724 |
| mean_abs_error | 0.005324 |
| relative_error | 0.4881% |
| cosine_similarity | 0.999988 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 3.53 ms |
| 最小延迟 | 3.47 ms |
| 最大延迟 | 3.58 ms |
| P50 延迟 | 3.53 ms |
| P90 延迟 | 3.58 ms |
| P95 延迟 | 3.58 ms |
| 吞吐量 | 283.64 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log - 推理日志logs/accuracy.log - 精度验证日志logs/benchmark.log - 性能基准日志pretrained=False + 本地权重加载,禁止 HuggingFace 自动下载#NPU #Ascend #ImageClassification #MobileNetV3 #timm