本仓库为基于 Timm 的 Image Classification 模型,已适配华为昇腾 Ascend NPU,支持在 CPU 和 NPU 两种设备上运行推理。
pytorch
torch_npu
opencv-python
numpytorch_npu 将模型加载到昇腾 NPU 设备torch.npu.synchronize() 确保正确的性能测量python3 inference.py --device cpupython3 inference.py --device npu推理完成后输出结果和性能数据。
本仓库提供完整的推理脚本,支持 CPU 和 NPU 双平台推理:
# NPU 推理
python3 inference.py --device npu
# CPU 推理
python3 inference.py --device cpu推理完成后会输出推理结果和耗时,表明模型在 NPU 上推理成功。
| 文件 | 说明 |
|---|---|
| inference.py | 推理脚本,支持 CPU 和 NPU |
| requirements.txt | 依赖清单 |
| compare_cpu_npu.py | CPU/NPU 精度对比脚本 |
| README.md | 本文档 |
基于现有评测数据,CPU 与 NPU 的 平均绝对误差 精度误差为 0.0637%,小于 1% 的精度要求。
#+NPU #+昇腾 #+CV #+PyTorch