nvidia/mit-b2 昇腾 NPU 适配

1. 模型信息

• 模型名称：nvidia/mit-b2
• 模型来源：Hugging Face / Transformers
• 模型类型：图像分类模型
• 模型结构：MiT-B2 / Mix Transformer B2
• 输出类别数：1000
• 输入尺寸：512 × 512
• 推理框架：PyTorch + Transformers + torch-npu
• 运行设备：Ascend NPU
• 适配目标：完成 nvidia/mit-b2 模型在昇腾 NPU 环境下的图像分类推理验证，并与 CPU 推理结果进行误差对比。

本项目面向昇腾 Model-Agent 模型适配大赛赛道一，完成 nvidia/mit-b2 模型在 Ascend NPU 环境下的适配验证。项目基于 PyTorch、Transformers 和 torch-npu，实现模型加载、测试图片生成、CPU 推理、NPU 推理、Top-5 分类输出、CPU/NPU 输出一致性对比以及验证材料整理。

2. 项目说明

nvidia/mit-b2 是 Hugging Face 上的 MiT-B2 模型。本项目使用一张固定测试图片 test.jpg 作为输入，分别在 CPU 与 Ascend NPU 上执行推理，并比较两端输出 logits 与 probability 是否一致。

本次适配重点包括：

1. 在 Ascend NPU Notebook 环境中安装依赖；
2. 从 Hugging Face 下载并加载 nvidia/mit-b2 模型；
3. 构造稳定测试图片 test.jpg；
4. 分别执行 CPU 与 NPU 图像分类推理；
5. 保存 CPU/NPU 的 logits、probability 和 Top-5 分类结果；
6. 对 CPU 与 NPU 输出进行误差对比；
7. 保存日志、截图和适配报告，用于赛道一模型适配验证提交。

3. 工程结构

.
├── README.md
├── adaptation_report.md
├── download_model.sh
├── find_stable_test_image.py
├── inference.py
├── compare_cpu_npu.py
├── requirements.txt
├── test.jpg
├── stable_seed.txt
├── stable_search_result.txt
├── cpu_result.json
├── cpu_result.txt
├── npu_result.json
├── npu_result.txt
├── compare_result.txt
├── fusion_result.json
├── run.log
└── screenshots/
    ├── npu_env.png
    ├── npu_result.png
    └── compare_result.png

其中：

• download_model.sh：模型下载脚本；
• find_stable_test_image.py：稳定测试图片搜索脚本；
• stable_seed.txt：稳定测试图片种子记录；
• stable_search_result.txt：稳定测试图片搜索结果；
• inference.py：CPU/NPU 推理脚本；
• compare_cpu_npu.py：CPU/NPU 输出误差对比脚本；
• cpu_result.json：CPU 推理结构化结果；
• cpu_result.txt：CPU 推理日志；
• npu_result.json：NPU 推理结构化结果；
• npu_result.txt：NPU 推理日志；
• compare_result.txt：CPU/NPU 误差对比结果；
• fusion_result.json：汇总结果文件；
• run.log：完整运行日志；
• adaptation_report.md：适配报告；
• screenshots/：验证截图材料。

4. 环境检查

在 Ascend NPU Notebook 中执行以下命令检查运行环境：

npu-smi info
python --version
python - <<'PY'
import torch
print("torch:", torch.__version__)

try:
    import torch_npu
    print("torch_npu import success")
    print("npu available:", torch.npu.is_available())
except Exception as e:
    print("torch_npu import failed:", repr(e))
PY

环境检查截图保存为：

screenshots/npu_env.png

该截图用于证明当前运行环境存在 Ascend NPU，并记录 NPU 型号、运行状态和 Python 版本信息。

5. 模型下载

运行：

bash download_model.sh

模型来源为 Hugging Face：

nvidia/mit-b2

模型文件下载完成后，推理脚本会加载模型并执行 CPU/NPU 前向推理。

6. 测试输入

本项目使用测试图片：

test.jpg

当前版本使用稳定测试图片重新生成了 CPU/NPU 推理结果。相关稳定性搜索记录保存在：

stable_seed.txt
stable_search_result.txt

推理流程包括：

1. 读取测试图片；
2. 使用模型对应的图像预处理流程；
3. 构造模型输入张量；
4. 输入 nvidia/mit-b2 模型；
5. 输出 1000 维分类 logits；
6. 计算 softmax 概率；
7. 输出 Top-5 分类结果。

输入张量形状为：

[1, 3, 512, 512]

7. CPU 推理

运行：

python inference.py --device cpu --image test.jpg --output cpu_result.json 2>&1 | tee cpu_result.txt

CPU 推理输出文件：

cpu_result.json
cpu_result.txt

CPU 推理日志摘要如下：

model: nvidia/mit-b2
device: cpu
image: test.jpg
input_shape: [1, 3, 512, 512]
elapsed_seconds: 3.206457

CPU Top-5 输出如下：

rank=1, index=611, label=jigsaw puzzle, score=0.10390767, logit=5.08570290
rank=2, index=917, label=comic book, score=0.06124397, logit=4.55706549
rank=3, index=549, label=envelope, score=0.03913548, logit=4.10922956
rank=4, index=921, label=book jacket, dust cover, dust jacket, dust wrapper, score=0.02192923, logit=3.53002071
rank=5, index=767, label=rubber eraser, rubber, pencil eraser, score=0.01707471, logit=3.27979851

8. NPU 推理

运行：

python inference.py --device npu --image test.jpg --output npu_result.json 2>&1 | tee npu_result.txt

NPU 推理输出文件：

npu_result.json
npu_result.txt

NPU 推理日志摘要如下：

model: nvidia/mit-b2
device: npu
image: test.jpg
input_shape: [1, 3, 512, 512]
elapsed_seconds: 13.189104

NPU Top-5 输出如下：

rank=1, index=611, label=jigsaw puzzle, score=0.10318487, logit=5.07714558
rank=2, index=917, label=comic book, score=0.06079359, logit=4.54810762
rank=3, index=549, label=envelope, score=0.03922350, logit=4.10989952
rank=4, index=921, label=book jacket, dust cover, dust jacket, dust wrapper, score=0.02208128, logit=3.53535342
rank=5, index=767, label=rubber eraser, rubber, pencil eraser, score=0.01699456, logit=3.27351689

NPU 推理结果截图保存为：

screenshots/npu_result.png

9. CPU/NPU 误差对比

运行：

python compare_cpu_npu.py --cpu cpu_result.json --npu npu_result.json 2>&1 | tee compare_result.txt

对比脚本会读取 CPU 与 NPU 的 logits 和 probability 输出，并计算：

• CPU Top-5；
• NPU Top-5；
• CPU/NPU Top-1 是否一致；
• CPU/NPU Top-5 顺序是否一致；
• CPU/NPU Top-5 集合是否一致；
• logits 最大绝对误差；
• logits 平均绝对误差；
• logits 余弦相似度；
• probability 最大绝对误差；
• probability 平均绝对误差；
• Top-5 probability 最大相对误差；
• 最终验证结论。

对比结果保存为：

compare_result.txt

10. 自验证结果

本次 nvidia/mit-b2 适配验证的 CPU/NPU 误差结果如下：

对应的 compare_result.txt 内容如下：

CPU/NPU comparison for Ascend NPU adaptation

model: nvidia/mit-b2
cpu_result: cpu_result.json
npu_result: npu_result.json

Top-k consistency:
  CPU top5: [611, 917, 549, 921, 767]
  NPU top5: [611, 917, 549, 921, 767]
  top1_same: True
  top5_order_same: True
  top5_set_same: True

Numerical metrics:
  logit_max_abs: 0.0089578629
  logit_mean_abs: 0.0018805575
  logit_cosine_similarity: 0.9999940395
  probability_max_abs: 0.0007228032
  probability_mean_abs: 0.0000031652
  top5_probability_max_relative_error: 0.0073538692

Conclusion:
  NPU inference passed. CPU/NPU Top-k results are consistent and Top-5 relative error is below 1%.

根据上述结果，CPU 与 NPU 的 Top-1 结果一致，Top-5 顺序完全一致，Top-5 集合一致。logits 余弦相似度达到 0.9999940395，probability 平均绝对误差为 0.0000031652，Top-5 probability 最大相对误差为 0.0073538692，低于 1% 阈值。因此，本次 nvidia/mit-b2 昇腾 NPU 推理验证通过。

11. 验证截图材料

11.1 NPU 环境截图

该截图展示 Ascend NPU Notebook 环境、npu-smi info 输出和 Python 版本信息。

11.2 NPU 推理结果截图

该截图展示 NPU 推理日志，包括模型名称、运行设备、输入图片、输入张量形状和 Top-5 分类结果。

11.3 CPU/NPU 误差对比截图

该截图展示 CPU/NPU 输出误差对比结果，包括 Top-K 一致性、logits 误差、probability 误差和余弦相似度。

12. 运行日志与提交材料

本项目提交材料包括：

• README.md
• adaptation_report.md
• download_model.sh
• find_stable_test_image.py
• inference.py
• compare_cpu_npu.py
• requirements.txt
• test.jpg
• stable_seed.txt
• stable_search_result.txt
• cpu_result.json
• cpu_result.txt
• npu_result.json
• npu_result.txt
• compare_result.txt
• fusion_result.json
• run.log
• screenshots/npu_env.png
• screenshots/npu_result.png
• screenshots/compare_result.png

完整运行日志可查看：

run.log

CPU 推理日志可查看：

cpu_result.txt

NPU 推理日志可查看：

npu_result.txt

CPU/NPU 误差对比结果可查看：

compare_result.txt

13. 适配说明

本项目的适配工作包括：

1. 在 Ascend NPU 环境中完成依赖安装；
2. 编写 Hugging Face / Transformers 模型下载脚本；
3. 加载 nvidia/mit-b2 模型；
4. 增加稳定测试图片搜索脚本；
5. 编写 CPU/NPU 统一推理脚本；
6. 支持测试图片输入和模型图像预处理；
7. 保存 CPU 与 NPU 的结构化分类结果；
8. 编写 CPU/NPU logits 和 probability 误差对比脚本；
9. 计算 Top-1 一致性、Top-5 顺序一致性、Top-5 集合一致性、logits 误差、probability 误差和余弦相似度；
10. 输出完整日志、截图和适配报告。

14. 结论

本项目完成了 nvidia/mit-b2 模型在 Ascend NPU 环境下的图像分类推理适配验证。

验证结果表明，NPU 推理能够正常完成模型加载、图像预处理和 Top-5 分类输出。CPU 与 NPU 的 Top-1 结果一致，Top-5 顺序完全一致，logits 余弦相似度达到 0.9999940395，probability 平均绝对误差为 0.0000031652，Top-5 probability 最大相对误差为 0.0073538692，低于 1% 阈值，并通过验证。本项目可作为赛道一模型适配提交材料。