maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k 昇腾 NPU 适配
模型介绍
maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k 是基于 timm (PyTorch Image Models) 的图像分类模型，采用 MaxViT (Multi-Axis Vision Transformer) 架构。
- 模型名称: maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k
- 描述: MaxViT RMLP Base RW 384 SW-IN12K-FT-IN1K
- 任务类型: 图像分类
- 模型框架: PyTorch + timm
- 输入格式: RGB 图像 (384x384)
- 输出格式: 1000/21841 类分类概率
- 原始模型地址: timm/maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k
- ModelScope 地址: timm/maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k
环境要求
- 操作系统: Linux (aarch64)
- NPU: Ascend910 (64GB HBM)
- CANN: 8.5.1
- Python: 3.11.14
- PyTorch: 2.9.0
- torch_npu: 2.9.0.post1
- timm: 1.0.27
NPU 适配说明
MaxViT 是一种混合架构，结合了卷积和注意力机制。该模型通过 timm 库加载预训练权重，可在昇腾 Ascend910 NPU 上直接运行。
快速开始
安装依赖
pip install torch torch_npu timm Pillow numpy safetensors使用清华镜像：
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torch torch_npu timm Pillow numpy safetensors下载模型
from modelscope.hub.snapshot_download import snapshot_download
model_dir = snapshot_download('timm/maxvit_rmlp_base_rw_384.sw_in12k_ft_in1k')运行推理
# CPU
python3 inference.py --device cpu
# NPU
python3 inference.py --device npu精度对比
python3 compare_cpu_npu.py推理结果
NPU 推理输出
CPU 与 NPU 对比
| 指标 | 值 |
|---|---|
| CPU Top-1 | 21 |
| NPU Top-1 | 21 |
| Top-1 匹配 | 是 |
| Top-5 重叠 | 5/5 |
| 余弦相似度 | 0.99999247 |
| 最大概率差异 | 0.023438% |
| Top-1 概率相对误差 | 0.281346% |
| CPU 耗时 | 4.1420s |
| NPU 耗时 | 0.2663s |
| 加速比 | 15.56x |
Top-5 概率对比
| 类别 | CPU 概率 | NPU 概率 | 差异 |
|---|---|---|---|
| 21 | 0.083307 | 0.083073 | 0.00023438 |
| 22 | 0.029859 | 0.029874 | 0.00001530 |
| 23 | 0.043544 | 0.043535 | 0.00000896 |
| 127 | 0.017167 | 0.017208 | 0.00004106 |
| 128 | 0.016331 | 0.016287 | 0.00004372 |
精度测试结论
NPU与CPU推理结果误差为0.0234%,符合精度误差小于1%的要求
NPU与CPU推理结果误差为0.0234%,符合精度误差小于1%的要求
推理成功证据
以下日志展示了 NPU 推理成功的关键信息：
Top-1 Match: MATCH (CPU=21, NPU=21)
Top-5 Overlap: 5/5
--- Top-5 Probabilities ---模型标签
#+NPU #+CV #+图像分类 #+昇腾 #+Ascend910 #+timm #+MaxViT #+PyTorch