Interlinked7/regnet-y-320-npu
模型介绍文件和版本Pull Requests讨论分析

RegNetY-32GF - 昇腾 NPU 适配

模型介绍

RegNetY-32GF 是 Facebook AI Research (FAIR) 提出的 RegNet 系列图像分类模型。RegNet 通过设计空间搜索方法发现了高性能的网络结构,在计算效率和准确率之间取得了优秀的平衡。

属性值
模型名称RegNetY-32GF
原始模型地址ModelScope
任务类型图像分类 (Image Classification)
模型框架PyTorch + HuggingFace Transformers
参数量145.0M
输入格式图像 (RGB, 224×224)
输出格式1000 类 ImageNet 分类概率
硬件环境华为昇腾 Ascend 910 (NPU)

NPU 适配说明

该模型基于 HuggingFace Transformers 框架的 RegNetForImageClassification 实现。通过在昇腾 NPU 上运行推理,利用 Ascend 910 加速器实现高性能图像分类。

适配要点:

  • 使用 torch_npu 将模型加载到 NPU 设备
  • 支持 CPU 和 NPU 双模式推理
  • 自动精度验证:同时运行 CPU 和 NPU 推理,确保结果一致性
  • 资源管理:推理完成后自动释放 NPU 显存

环境准备

pip install torch torchvision transformers pillow numpy -i https://mirrors.aliyun.com/pypi/simple/

# 确保昇腾 NPU 环境可用
python3 -c "import torch; print(torch.npu.is_available())"

推理命令

# NPU 推理
python3 inference.py --device npu

# CPU 推理
python3 inference.py --device cpu

# 精度对比
python3 compare_cpu_npu.py --num_images 5

推理结果

性能对比

指标CPUNPU加速比
平均推理耗时1469.0 ms47.3 ms31.05x

RegNetY-32GF 在 Ascend 910 NPU 上的推理速度达到 CPU 的 31.05倍,展现了昇腾 NPU 在图像分类任务上的高性能优势。

精度对比

使用 5 张随机测试图片,在相同输入下对比 CPU 与 NPU 的推理输出:

测试图片Top-1 一致Logits 最大绝对误差Cosine 相似度
1✓0.0033130.99999994
2✓0.0023030.99999988
3✓0.0031720.99999994
4✓0.0033811.00000000
5✓0.0033710.99999994

精度汇总

指标值
Top-1 预测一致率100.0%
Logits 平均最大绝对误差0.00310823
概率平均最大绝对误差0.00029710
Cosine 相似度0.9999999404
平均相对误差0.1232%

结论

NPU 与 CPU 推理结果误差 < 1%,精度完全满足要求。

所有测试图片的 Top-1 预测结果完全一致(100%),输出向量的 Cosine 相似度接近 1.0,最大概率误差小于 0.05%,证明 NPU 推理结果与 CPU 推理结果在数值上高度一致。

运行截图

推理截图

推理日志

在执行 compare_cpu_npu.py 后可以看到类似以下关键日志:

============================================================
RegNet CPU vs NPU 精度对比
模型: facebook/regnet-y-320
============================================================

============================== CPU 推理 ==============================
CPU 平均耗时: 1469.0 ms

============================== NPU 推理 ==============================
NPU 平均耗时: 47.3 ms

======================================================================
精度对比汇总
======================================================================
  平均 Top-1 一致率:              100.00%
  平均余弦相似度:                  0.99999994
  平均相对误差:                    0.1232%
  NPU 加速比:                      31.05x

结论: NPU 与 CPU 推理结果误差 < 1%
======================================================================

标签

#+NPU #+CV #+昇腾 #+Ascend #+图像分类 #+RegNet #+PyTorch #+Transformers

下载使用量0