resnet18-random-classifier

1. 简介

本文档记录 nateraw/resnet18-random-classifier 在昇腾 NPU（Ascend910）环境的快速部署与验证结果。

ResNet-18 图像分类模型，基于 timm 框架，支持一键加载推理。

2. 验证环境

组件	版本
`torch`	`2.5.1`
`torch_npu`	`2.5.1`
`timm`	`>=1.0.0`
`CANN`	`8.5.RC1`

NPU：Ascend910（单卡）
输入尺寸：3x224x224
类别数：4
推理框架：PyTorch + timm

3. 快速部署

3.1 环境准备

pip install timm torch torchvision pillow

3.2 推理代码

import torch, timm
from PIL import Image
from torchvision import transforms

device = torch.device("npu:0" if torch.npu.is_available() else "cpu")
model = timm.create_model("resnet18", pretrained=False, num_classes=4)
state_dict = torch.load("pytorch_model.bin", map_location="cpu")
model.load_state_dict(state_dict)
model = model.to(device).eval()

transform = transforms.Compose([
    transforms.Resize((224, 224)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])
img = Image.new("RGB", (224, 224), (128, 128, 128))
input_tensor = transform(img).unsqueeze(0).to(device)

with torch.no_grad():
    output = model(input_tensor)
pred = output.argmax(-1).item()
print(f"Predicted class: {pred}")

4. Smoke 验证

python3 inference.py

验证结果：

模型成功加载到 npu:0
输出预测类别（整数索引）
推理过程无报错

5. 性能参考

测试条件：FP32 / batch=1 / warmup=5 / timed=50 runs，Ascend910 单卡。

指标	数值
平均推理时间	`1.99 ms`
测试次数	`50`

6. 精度评测

NPU 与 CPU 输出对比，使用 4 张纯色测试图（RGB 255/0、0/255/0、0/0/255、128/128/128），比较 logits 一致性。

指标	数值
Top-1 一致性	`4/4`
Top-5 一致性	`4/4`
最大 logits 相对误差	`0.392` %
平均 KL 散度	`0.0`
结论	`PASS`

7. 注意事项

该模型使用 timm 框架加载，权重为 PyTorch 标准格式
NPU 推理结果与 CPU 在 Top-1/Top-5 完全一致，最大 logits 相对误差 < 1%（判定阈值）

1. 简介

本文档记录 nateraw/resnet18-random-classifier 在昇腾 NPU（Ascend910）环境的快速部署与验证结果。

ResNet-18 图像分类模型，基于 timm 框架，支持一键加载推理。

相关获取地址：

组件

版本

torch

2.5.1

torch_npu

2.5.1

timm

>=1.0.0

CANN

8.5.RC1

3. 快速部署

3.1 环境准备

pip install timm torch torchvision pillow

3.2 推理代码

import torch, timm
from PIL import Image
from torchvision import transforms

device = torch.device("npu:0" if torch.npu.is_available() else "cpu")
model = timm.create_model("resnet18", pretrained=False, num_classes=4)
state_dict = torch.load("pytorch_model.bin", map_location="cpu")
model.load_state_dict(state_dict)
model = model.to(device).eval()

transform = transforms.Compose([
    transforms.Resize((224, 224)),
    transforms.ToTensor(),
    transforms.Normalize(mean=[0.485, 0.456, 0.406], std=[0.229, 0.224, 0.225]),
])
img = Image.new("RGB", (224, 224), (128, 128, 128))
input_tensor = transform(img).unsqueeze(0).to(device)

with torch.no_grad():
    output = model(input_tensor)
pred = output.argmax(-1).item()
print(f"Predicted class: {pred}")

指标

数值

平均推理时间

1.99 ms

测试次数

50

指标

数值

Top-1 一致性

4/4

Top-5 一致性

4/4

最大 logits 相对误差

0.392 %

平均 KL 散度

0.0

结论

PASS