本项目将 timm/vit_large_patch16_224.augreg_in21k 图片分类模型适配到单卡昇腾 NPU (Ascend910) 上运行。模型通过 ModelScope 下载权重,使用 timm.create_model(pretrained=False) 加载本地权重,并在 NPU 上完成推理验证、精度一致性检查和性能基准测试。
| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| torch | 2.x |
| torch_npu | 适配 CANN 8.5.1 |
| timm | latest |
环境检查日志: logs/env_check.log
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.209366 |
| mean_abs_error | 0.056942 |
| relative_error | 0.3716% |
| cosine_similarity | 0.999998 |
| threshold | 1.0% |
| 结果 | PASS |
NPU 单图推理性能(batch=1, 224x224):
| 指标 | 数值 |
|---|---|
| avg_time | 11.085 ms |
| min_time | 10.879 ms |
| max_time | 11.334 ms |
| p50_time | 11.059 ms |
| p90_time | 11.334 ms |
| p95_time | 11.334 ms |
| images_per_sec | 90.21 |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
logs/env_check.log | 环境检查 |
logs/inference.log | 推理输出 |
logs/accuracy.log | 精度对比 |
logs/benchmark.log | 性能基准 |
snapshot_download 自动下载到本地缓存目录,请勿将权重文件提交到仓库。timm.create_model 必须设置 pretrained=False,然后从本地路径加载权重。timm.data.resolve_model_data_config + create_transform,确保与训练时一致。augreg_in21k 版本,输出为 21843 类(ImageNet-21k),非 1000 类。#NPU #Ascend #Ascend910 #ViT #ImageClassification