本项目将 timm/tf_efficientnet_b3.ns_jft_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910),使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 加载本地权重,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。
cd timm-tf_efficientnet_b3-ns_jft_in1k-NPU
pip install -r requirements.txt
python inference.py推理结果(单张测试图片):
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.005771 |
| mean_abs_error | 0.001056 |
| relative_error | 0.1934% |
| cosine_similarity | 0.999998 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| avg_latency | 11.87 ms |
| min_latency | 11.47 ms |
| max_latency | 13.42 ms |
| p50_latency | 11.72 ms |
| p90_latency | 11.97 ms |
| p95_latency | 12.69 ms |
| throughput | 84.28 images/sec |
测试条件:batch_size=1, warmup=2, benchmark=10, 单卡 NPU。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
截图位于 screenshots/self_verification.png,包含 NPU 环境、推理结果、精度验证和性能测试摘要。
logs/inference.log — 推理输出与 Top-5 预测logs/accuracy.log — CPU-NPU 精度一致性检查logs/benchmark.log — 性能基准测试logs/env_check.log — NPU 环境检查pretrained=False,通过 ModelScope snapshot_download 下载权重后手动加载,不使用 HuggingFace 直连#NPU