本项目将 timm/vit_base_patch16_224.augreg_in21k 适配到昇腾 NPU (Ascend910) 上进行图片分类推理。
该模型为 Vision Transformer (ViT) Base,Patch Size 16x16,输入分辨率 224x224,在 ImageNet-21k 上预训练,输出 21843 个类别 logits。
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.128332 |
| mean_abs_error | 0.034897 |
| relative_error | 0.2350% |
| cosine_similarity | 0.999999 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| warmup_iterations | 2 |
| benchmark_iterations | 10 |
| avg_latency(s) | 0.005240 |
| min_latency(s) | 0.005183 |
| max_latency(s) | 0.005309 |
| p50_latency(s) | 0.005233 |
| p90_latency(s) | 0.005298 |
| p95_latency(s) | 0.005303 |
| images_per_sec | 190.86 |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png。
logs/env_check.log — NPU 环境信息logs/inference.log — NPU 推理结果logs/accuracy.log — CPU-NPU 精度一致性logs/benchmark.log — 性能基准测试snapshot_download 下载,严禁使用 timm.create_model(..., pretrained=True) 自动从 HuggingFace 下载。class_<index> 形式展示。torch.npu.synchronize() 确保时序正确。#NPU