sheepss/timm-convnext_tiny.in12k_ft_in1k-NPU
Model Introduction
Files & versions
Pull Requests
Discussion
Analysis

timm/convnext_tiny.in12k_ft_in1k on Ascend NPU

1. 模型简介

ConvNeXt-Tiny 图像分类模型(timm 权重 in12k_ft_in1k):在 ImageNet-12k 上预训练、ImageNet-1k 上微调,28.59M 参数,输入 224x224,输出 1000 类 logits。本仓库将该模型的真实权重适配到华为昇腾单卡 npu:0(Ascend910B),提供可直接运行的 NPU 推理、CPU-NPU 一致性验证与性能基准脚本。

  • 模型:timm/convnext_tiny.in12k_ft_in1k(revision aa096f03029c7f0ec052013f64c819b34f8ad790)
  • 任务:图像分类(ImageNet-1k,1000 类)
  • 架构:ConvNeXt-Tiny;加载后端:timm 1.0.28(本地 safetensors 权重,无 remote code)

2. 验证环境

项目值
硬件Atlas Ascend910B(Ascend910_9362,HBM 64GB)
驱动npu-smi 25.5.5
NPU 处理器torch_npu 2.9.0.post1 + CANN 8.5.1
PyTorch2.9.0
timm / Python1.0.28 / 3.11

设备检查:torch.npu.is_available() == True,模型参数实际位于 npu:0,dtype float32(另验证 float16)。

3. 安装依赖

pip install -r requirements.txt

权重通过 huggingface_hub.snapshot_download("timm/convnext_tiny.in12k_ft_in1k") 获取(自动使用已缓存权重或配置好的镜像),加载阶段完全离线读本地文件。也可用环境变量 CONVNEXT_LOCAL_DIR 直接指定本地权重目录。

4. NPU 推理

# 默认:真实 NPU 推理 + CPU-NPU 一致性校验,输出 PASS/FAIL
python inference.py

# 性能基准(warmup=3, iters=10, 同步计时)
python inference.py --mode benchmark

# FP16 推理/基准
python inference.py --mode benchmark --dtype fp16

默认命令在仓库自带的两张固定样例图(sample_images/car.jpg、sample_images/cats.png)上执行 npu:0 推理,与 CPU FP32 结果比对 Top-1/Top-5 与余弦相似度,全部通过时退出码为 0 并打印 PASS。

5. 真实推理结果

以下输出来自本仓 python inference.py 的真实执行(device=npu:0, dtype=fp32, batch=2):

car.jpg  top1=car wheel(n02974003)=46.05%   top5 其余:grille 10.61% | pickup 9.77% | beach wagon 9.48% | sports car 2.97%
cats.png top1=tiger cat(n02123159)=56.71%   top5 其余:tabby 11.84% | Egyptian cat 8.07% | broom 2.78% | doormat 0.65%

consistency(cpu_fp32_vs_fp32_npu) max_abs_diff=5.487728e-02 mean_abs_diff=6.501508e-03 cosine=0.99995762
consistency top1_match=True top5_set_match=True
FINAL device=npu:0 dtype=fp32 consistency_cosine=0.99995762 -> PASS

两张样例的 Top-1 均为语义正确类别(汽车 → car wheel;猫 → tiger cat)。该结果为固定样例 smoke consistency + 单批次真实推理验证,非完整 ImageNet-1k 数据集评测。

6. CPU-NPU 一致性验证

同一输入分别在前向于 CPU(FP32 参考基准)与 npu:0:

对比项fp32 (NPU) vs cpufp16 (NPU) vs cpu
max abs diff5.49e-025.30e-02
mean abs diff6.50e-03—
余弦相似度0.999957620.99995488
Top-1 一致是(2/2)是(2/2)
Top-5 集合一致是(2/2)—

结论:NPU 输出与 CPU 参考在数值上高度一致,Top-1/Top-5 完全一致。

7. 性能测试

batch=2(两张 224x224 图像)、torch.npu.synchronize() 同步计时、预热 3 次、正式测试 10 次:

dtypeavgminmaxp50p90p95吞吐
fp327.20 ms7.15 ms7.32 ms7.19 ms7.24 ms7.24 ms277.89 img/s
fp165.79 ms5.78 ms5.81 ms5.80 ms5.81 ms5.81 ms345.20 img/s

峰值显存:fp32 分配 137.3 MB(保留 170.0 MB);fp16 分配 73.4 MB。首次调用含算子编译耗时约 179 ms,不计入稳态统计。

8. 自验证截图

以下证据图均由本次真实执行日志渲染:

  • assets/agent_workflow.png:下载、侦察、本地加载、NPU 推理、一致性验证与性能测试全流程日志。
  • assets/npu_device_call.png:npu-smi info、torch.npu.is_available()、设备名与模型参数所在设备。
  • assets/model_result.png:默认 python inference.py 的完整输出与 PASS 结论。

9. 已知限制

  • 精度验证为固定样例一致性验证(2 张固定图片,FP32/F16 vs CPU),未做完整 ImageNet-1k 数据集评测。
  • 输入分辨率按官方配置为 224x224;官方另有 test_crop_pct=1.0 的 288x288 测试配置,本仓库未覆盖。
  • 训练侧(分布式训练、导出 ONNX 等)未验证,仅覆盖推理链路。

10. 标签

Hardware:NPU NPU Ascend Ascend910 image-classification timm ConvNeXt