VOLO-D1 (timm/volo_d1_384.sail_in1k) Ascend NPU 适配验证报告

1. 模型简介

VOLO-D1 是 VOLO（Vision Outlooker）系列的基础版本。与 D3 一样采用 Outlook Attention 机制，但层数和维度较小（26.6M 参数）。在 384×384 输入下达到 84.3% 的 Top-1 准确率，展示了 Outlook Attention 在相对轻量级模型上的有效性。VOLO 系列的核心理念是使用 Outlook Attention 高效聚合局部邻域信息，再配合 Transformer 全局建模。

本仓库验证的模型为 timm/volo_d1_384.sail_in1k，来源于 Hugging Face timm（PyTorch Image Models）模型库，在 ImageNet-1k 数据集上预训练。模型使用 VOLO-D1 架构，适用于图像分类任务，支持 1000 类 ImageNet 标准分类。

2. 环境配置

硬件环境

软件环境

环境检查

NPU 设备可用性通过 torch.npu.is_available() 确认，运行模式下所有张量和模型均通过 .to("npu") 显式迁移至 Ascend NPU 设备。

3. 快速开始

3.1 下载模型

import timm

# 直接从 Hugging Face Hub 下载
model = timm.create_model("volo_d1_384.sail_in1k", pretrained=True)
model.eval()

3.2 安装依赖

pip install timm torch torch_npu pillow requests numpy

3.3 运行推理

使用本仓库提供的推理脚本 inference.py：

python3 inference.py

推理脚本会自动检测 NPU 设备可用性，优先使用 NPU 进行加速推理。输出内容包括 Top-5 预测类别及其置信度，以及单次推理延迟。

3.4 核心推理代码

import torch
import timm
from timm.data import create_transform, resolve_data_config
from PIL import Image

# 设备初始化（自动选择 NPU）
device = torch.device("npu" if torch.npu.is_available() else "cpu")

# 加载模型
model = timm.create_model("volo_d1_384.sail_in1k", pretrained=True).to(device)
model.eval()

# 数据预处理
data_config = resolve_data_config(model=model)
transform = create_transform(**data_config)

# 加载并预处理图像
image = Image.open("test.jpg").convert("RGB")
input_tensor = transform(image).unsqueeze(0).to(device)

# 推理
with torch.no_grad():
    output = model(input_tensor)
    if device.type == "npu":
        torch.npu.synchronize()

# 后处理
probs = torch.nn.functional.softmax(output, dim=-1)
top_probs, top_indices = torch.topk(probs, 5, dim=-1)

4. 精度验证结果

4.1 验证方法

精度验证采用 CPU vs NPU 数值一致性对比 策略：

• 使用相同的随机种子生成 50 张合成测试图像（3 x 384 x 384)
• 分别在 CPU（FP32）和 NPU（FP32）上运行推理
• 对比输出 logits 和 softmax 概率的数值差异
• 衡量指标：Top-1 预测匹配率、最大相对误差、概率余弦相似度

4.2 总体结果

注：所有 50 个样本的 Top-1 预测完全一致，NPU 推理结果与 CPU 高度吻合，平均余弦相似度达到 1.0，证明 NPU 推理精度与 CPU 基准无差异。

5. 性能基准测试

5.1 测试方法

• 批次大小：1（单张图片）
• 迭代次数：100 次推理（含 10 次预热）
• 预热：10 次推理用于模型预热，不计入统计
• 同步：每次推理后调用 torch.npu.synchronize() 确保精确计时
• 输入：随机生成的 384×384 RGB 图像
• 数据类型：FP32

5.2 整体性能指标

5.3 性能汇总

5.4 部署截图

6. 项目结构

volo_d1_384-npu/
├── readme.md                 # 本文件 - 模型适配验证报告
├── inference.py              # 推理脚本（自动 NPU/CPU 切换，支持 warmup）
├── accuracy_eval.py          # 精度验证脚本（CPU vs NPU 一致性对比）
└── terminal_screenshot.png   # 终端截图（推理/精度/性能输出）

脚本说明

7. 注意事项

1. NPU 设备要求：本验证在 Ascend 910B4 NPU 上完成，CANN 版本 8.5.1。其他 NPU 型号或 CANN 版本可能需调整配置。
2. 环境依赖冲突：torch_npu 版本必须与 PyTorch 版本严格匹配，建议使用配套发布的版本组合。
3. 首次推理延迟：首次推理包含模型编译和构图开销（约数十秒），后续推理为正常延迟。本仓库脚本已包含预热机制。
4. 精度验证说明：当前验证采用合成数据，用于验证 NPU 与 CPU 的数值一致性。实际下游任务的 Top-1 准确率（如 ImageNet 验证集上的 84.3%）需使用真实数据集评估。
5. 模型来源：模型来自 Hugging Face timm/volo_d1_384.sail_in1k，在 ImageNet-1k 上训练并贡献至 timm 模型库。
6. 批量推理：当前基准测试使用 batch_size=1。如需批量推理优化吞吐量，可调整 inference.py 中的 BATCH_SIZE 参数。

8. 标签

image-classification volo volo-d1 timm ascend npu ascend-910b4 huawei pytorch imagenet cann-8.5.1 torch-npu vision-transformer

精度结论

基于现有评测数据，CPU 与 NPU 的 余弦相似度 精度误差为 0.0%，小于 1% 的精度要求。

推理成功证据

本仓库提供完整的推理脚本，支持 CPU 和 NPU 双平台推理：

# NPU 推理
python3 inference.py --device npu

# CPU 推理
python3 inference.py --device cpu

推理完成后会输出推理结果和耗时，表明模型在 NPU 上推理成功。