weixin_72661020/Xenova-resnet-18
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

Xenova-resnet-18

1. 简介

本文档记录 Xenova/resnet-18 在昇腾 NPU（Ascend910）环境的快速部署与验证结果。

ResNet-18 图像分类模型，基于 HuggingFace transformers 框架。Xenova/resnet-18 为 ONNX 格式，使用 microsoft/resnet-18 作为 PyTorch 权重源。

相关获取地址：

  • 权重下载地址（HuggingFace）：https://huggingface.co/Xenova/resnet-18
  • PyTorch 权重源：https://huggingface.co/microsoft/resnet-18

2. 验证环境

组件版本
torch2.5.1
torch_npu2.5.1
transformers>=4.48.0
CANN8.5.RC1
  • NPU：Ascend910（单卡）
  • 输入尺寸：3x224x224
  • 类别数：1000
  • 推理框架：PyTorch + transformers

3. 快速部署

3.1 环境准备

pip install transformers torch torchvision pillow

3.2 推理代码

import torch
from transformers import AutoImageProcessor, AutoModelForImageClassification
from PIL import Image

device = torch.device("npu:0" if torch.npu.is_available() else "cpu")

processor = AutoImageProcessor.from_pretrained("microsoft/resnet-18")
model = AutoModelForImageClassification.from_pretrained("microsoft/resnet-18")
model = model.to(device).eval()

image = Image.new("RGB", (224, 224), (128, 128, 128))
inputs = processor(images=image, return_tensors="pt")
inputs = {k: v.to(device) for k, v in inputs.items()}

with torch.no_grad():
    outputs = model(**inputs)
pred = outputs.logits.argmax(-1).item()
print(f"Predicted class: {pred}")

4. Smoke 验证

python3 inference.py

验证结果：

  • 模型成功加载到 npu:0
  • 输出预测类别（整数索引）
  • 推理过程无报错

5. 性能参考

测试条件：FP32 / batch=1 / warmup=5 / timed=50 runs，Ascend910 单卡。

指标数值
平均推理时间2.27 ms
测试次数50

6. 精度评测

NPU 与 CPU 输出对比，使用 4 张纯色测试图。

指标数值
Top-1 一致性4/4
Top-5 一致性4/4
最大 logits 相对误差0.132 %
平均 KL 散度2e-06
结论PASS

7. 注意事项

  • Xenova/resnet-18 为 ONNX 格式，需使用 microsoft/resnet-18 作为 PyTorch 权重源
  • AutoImageProcessor 会自动匹配模型配置中的 image_size，无需手动设置
  • NPU 推理结果与 CPU 在 Top-1/Top-5 完全一致，最大 logits 相对误差 < 1%