fbnetv3_b.ra2_in1k NPU 推理适配

模型介绍

FBNetV3-B 是 Facebook 提出的 FBNetV3 系列神经网络架构搜索模型。FBNetV3 通过改进的 NAS 搜索策略，在 MobileNetV3 的基础上进一步优化了精度和效率的平衡。模型在 ImageNet-1k 数据集上训练。

原始模型地址: https://huggingface.co/timm/fbnetv3_b.ra2_in1k
ModelScope 地址: https://www.modelscope.cn/models/timm/fbnetv3_b.ra2_in1k
任务类型: 图像分类 (Image Classification)
模型框架: PyTorch + timm

模型信息

属性	值
架构类型	MobileNetV3
输入尺寸	224 × 224
类别数	1000
预处理均值	[0.485, 0.456, 0.406]
预处理标准差	[0.229, 0.224, 0.225]

NPU 适配说明

此模型基于 torch_npu 在华为昇腾 NPU 上完成推理适配。模型权重通过 ModelScope 下载，加载到 timm 定义的模型结构中。CPU 和 NPU 推理结果对比验证精度满足要求。

环境准备

安装依赖

pip install -r requirements.txt

推理命令

# CPU 推理
python3 inference.py --device cpu

# NPU 推理
python3 inference.py --device npu

推理结果

CPU 推理

Avg: 42.30 ms (10 runs)
Top-5 predictions:
  Class 21: 0.059189
  Class 127: 0.041761
  Class 128: 0.039383
  Class 111: 0.036534
  Class 23: 0.026842

NPU 推理

Avg: 10.84 ms (10 runs)
Top-5 predictions:
  Class 21: 0.058949
  Class 127: 0.041702
  Class 128: 0.039389
  Class 111: 0.036610
  Class 23: 0.026767

推理性能对比

设备	平均推理耗时 (ms)	加速比
CPU	42.30	1.0×
NPU (Ascend910)	10.84	3.9×

CPU/NPU 精度测试

精度测试结果

指标	值
Logits 余弦相似度	0.99999950
Probabilities 最大绝对误差	0.00024012
Probabilities 平均绝对误差	0.00000146
Top-1 类别一致率	100.00%

Top-5 概率详细对比

Rank	CPU Class	CPU Prob	NPU Class	NPU Prob	Prob Diff
1	21	0.05918923	21	0.05894910	0.00024012
2	127	0.04176065	127	0.04170177	0.00005889
3	128	0.03938328	128	0.03938878	0.00000550
4	111	0.03653410	111	0.03660983	0.00007573
5	23	0.02684228	23	0.02676708	0.00007520

精度测试结论

NPU 与 CPU 推理误差为 0.02%（概率最大绝对误差），符合精度误差小于 1% 的要求。

推理截图

推理成功证据

以下日志展示了 NPU 推理成功的关键信息：

CPU Top-1: class 21, prob 0.059189
NPU Top-1: class 21, prob 0.058949
Top-1 agree: 100.00%
Top-5 detail:

模型标签

#+NPU
#+CV
#+图像分类
#+昇腾
#+FBNetV3
#+MobileNetV3