本项目将 timm/tf_efficientnet_b3.ap_in1k 图片分类模型适配到单卡昇腾 NPU (Ascend910) 上运行。
timm.create_model(pretrained=False) + ModelScope 本地权重加载| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| PyTorch | 2.x |
| torch_npu | 适配 CANN 8.5.1 |
环境检查日志:logs/env_check.log
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.003582 |
| mean_abs_error | 0.000582 |
| relative_error | 0.0659% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
单图推理性能(10 次平均):
| 指标 | 数值 |
|---|---|
| avg latency | 11.755 ms |
| min latency | 11.334 ms |
| max latency | 12.108 ms |
| p50 latency | 11.770 ms |
| p90 latency | 12.108 ms |
| p95 latency | 12.108 ms |
| throughput | 85.07 images/sec |
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png 和 screenshots/self_verification.txt。
logs/inference.log — 推理结果logs/accuracy.log — CPU-NPU 精度一致性logs/benchmark.log — 性能基准测试logs/env_check.log — 环境检查snapshot_download 下载,严禁使用 pretrained=True 自动从 HuggingFace 下载。timm.data.resolve_model_data_config 获取模型对应的预处理参数。torch.npu.synchronize() 确保 NPU 计算完成。#NPU #Ascend #Ascend910 #timm #EfficientNet