本项目将 timm/convnextv2_nano.fcmae_ft_in22k_in1k 图片分类模型适配到单卡昇腾 NPU(Ascend910)上运行。模型通过 ModelScope snapshot_download 下载权重,使用 timm.create_model(pretrained=False) 创建结构并加载本地权重,在 NPU 上完成真实推理验证、CPU-NPU 精度一致性检查和性能基准测试。
| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| PyTorch | 2.9.0+cpu |
| torch_npu | 与 CANN 8.5.1 配套 |
| timm | 1.0.27 |
| modelscope | 1.35.3 |
| Python | 3.11.14 |
pip install -r requirements.txt
python inference.pyinference.py 会自动下载测试图片(或生成占位图),通过 model_utils.py 加载模型到 npu:0 执行推理,并输出 Top-5 预测结果到 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.009453 |
| mean_abs_error | 0.001578 |
| relative_error | 0.2149% |
| cosine_similarity | 0.999998 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_latency | 8.748 ms |
| min_latency | 7.386 ms |
| max_latency | 10.173 ms |
| p50_latency | 8.687 ms |
| p90_latency | 10.128 ms |
| p95_latency | 10.128 ms |
| images_per_sec | 114.31 |
测试配置:warmup 2 次 + 正式 10 次,batch_size=1,device=npu:0
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png 与 screenshots/self_verification.txt。
| 文件 | 说明 |
|---|---|
logs/inference.log | 推理结果与 Top-5 预测 |
logs/accuracy.log | CPU-NPU 精度一致性检查 |
logs/benchmark.log | NPU 性能基准测试 |
logs/paths.txt | 模型与权重本地路径 |
logs/env_check.log | NPU 环境检查 |
snapshot_download 下载,不使用 HuggingFace 直连,也不使用 timm.create_model(..., pretrained=True) 自动下载。.safetensors / .bin / .pth 等)不包含在本仓库中,首次运行时会自动从 ModelScope 下载到本地缓存。#NPU #Ascend #Ascend910 #HardwareNPU #timm #ConvNeXtV2 #image-classification