本项目将 timm 模型 eva02_large_patch14_clip_336.merged2b_ft_inat21 适配到华为昇腾 NPU (Ascend910B),实现单卡推理。该模型为 EVA02 Large 架构(基于 CLIP 预训练),在 iNaturalist 2021 数据集上微调,包含 10,000 个物种分类,输入分辨率 336x336。
1 x 3 x 336 x 336[1, 10000](iNaturalist 2021 物种分类)# 安装依赖
pip install -r requirements.txt
# 运行推理
python inference.pyTop-5 预测结果(单张测试图片):
| 排名 | 物种 | 类别索引 | 概率 |
|---|---|---|---|
| 1 | Abies alba | 9797 | 0.0654 |
| 2 | Pinus sylvestris | 9840 | 0.0170 |
| 3 | Sciurus vulgaris | 4849 | 0.0116 |
| 4 | Acer pseudoplatanus | 9577 | 0.0114 |
| 5 | Salix babylonica | 8866 | 0.0113 |
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.024995 |
| mean_abs_error | 0.004678 |
| relative_error | 0.4012% |
| cosine_similarity | 0.999992 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg latency | 22.56 ms |
| min latency | 22.51 ms |
| max latency | 22.62 ms |
| p50 latency | 22.56 ms |
| p90 latency | 22.62 ms |
| p95 latency | 22.62 ms |
| throughput | 44.32 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。CPU-NPU 精度一致性检查采用相对误差指标,阈值为 1.0%。详细指标见第 4 节。
详见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
logs/inference.log — 推理结果logs/accuracy.log — 精度验证logs/benchmark.log — 性能基准timm.create_model(pretrained=False) 创建结构并加载本地权重timm.data.resolve_model_data_config 自动推导(CLIP 标准归一化)#NPU