将 ModelScope 上的 facebook/regnet-y-080 图片分类模型适配到华为昇腾 NPU (Ascend910B) 上运行。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.003420 |
| mean_abs_error | 0.000647 |
| relative_error | 0.0376% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| Avg latency | ms |
| Min latency | ms |
| Max latency | ms |
| P50 latency | ms |
| P90 latency | ms |
| P95 latency | ms |
| Throughput | images/sec |
测试条件:2 次预热 + 10 次正式测量,batch_size=1,单卡 NPU。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/inference.log — NPU 推理结果logs/accuracy.log — CPU-NPU 精度一致性验证logs/benchmark.log — 性能基准测试ModelScope snapshot_download 下载权重,禁止 HuggingFace 自动下载torch.npu.synchronize() 确保 NPU 计算完成