volo_d2_384.sail_in1k 是 timm 库中的 Vision Outlooker (VOLO) 模型，在 ImageNet-1K 上进行了预训练。VOLO 引入了一种新颖的展望注意力机制，专注于更精细级别的特征编码，在图像分类任务上实现了最先进的性能。
主要特点：
该模型已在华为昇腾 NPU 上完成适配与验证。适配工作包括：
# Install dependencies
pip install -i https://pypi.tuna.tsinghua.edu.cn/simple torch torchvision timm Pillow
# For NPU support, install torch_npu (matching your CANN version)
# pip install torch_npupython3 inference.py --model volo_d2_384.sail_in1k --device cpu --image test_image.jpgpython3 inference.py --model volo_d2_384.sail_in1k --device npu --image test_image.jpgpython3 compare_cpu_npu.py --model volo_d2_384.sail_in1k --image test_image.jpg| 指标 | CPU | NPU |
|---|---|---|
| 平均推理时间 | 2199.27 ms | 10.92 ms |
| 加速比（CPU/NPU） | - | 201.48x |
CPU Top-5：
| 排名 | 类别 ID | 概率 |
|---|---|---|
| 1 | 111 | 1.0334% (class_111) |
| 2 | 701 | 1.0222% (class_701) |
| 3 | 21 | 0.8589% (class_21) |
| 4 | 128 | 0.4400% (class_128) |
| 5 | 615 | 0.3473% (class_615) |
NPU Top-5：
| 排名 | 类别 ID | 概率 |
|---|---|---|
| 1 | 701 | 1.0195% (class_701) |
| 2 | 111 | 1.0180% (class_111) |
| 3 | 21 | 0.8545% (class_21) |
| 4 | 128 | 0.4370% (class_128) |
| 5 | 615 | 0.3441% (class_615) |
| 指标 | 数值 |
|---|---|
| Logits 最大绝对误差 | 0.01558757 |
| Logits 平均绝对误差 | 0.00176075 |
| Logits 余弦相似度 | 0.99998015 |
| 概率最大绝对误差 | 0.00015451 |
| 概率平均绝对误差 | 0.00000226 |
| Top-1 匹配 | 否 |
| Top-5 重叠 | 5/5 |
NPU 与 CPU 推理误差 < 1%。 NPU 与 CPU 输出的最大概率差异为 0.0155%，远低于 1% 的阈值。Logits 的余弦相似度为 0.99998015，表明输出分布几乎完全一致。因此，NPU 适配正确，且模型精度得以保持。
NPU 推理及 CPU/NPU 精度对比的终端输出。
├── inference.py # Inference script (CPU/NPU)
├── compare_cpu_npu.py # CPU vs NPU accuracy comparison
├── requirements.txt # Python dependencies
├── readme.md # This documentation
└── screenshot.html # Terminal output screenshot| 对比项 | CPU | NPU | 误差 |
|---|---|---|---|
| 余弦相似度 | 1.0 | 0.9999801517 | 0.002% |
结论： CPU 与 NPU 精度误差为 0.002%，小于 1% 精度要求。
本仓库提供完整的推理脚本，支持 CPU 和 NPU 双平台推理。
# NPU 推理
python3 inference.py --device npu
# CPU 推理
python3 inference.py --device cpuModel loaded successfully on NPU
Inference completed
Results saved