本项目将 timm/tf_efficientnet_lite0.in1k 图片分类模型适配到华为昇腾 NPU(Ascend910)上运行。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建结构并加载本地权重,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。
| 项目 | 值 |
|---|---|
| 硬件 | 华为昇腾 910 NPU |
| 操作系统 | Linux (aarch64) |
| Python | 3.11 |
| PyTorch | 2.x |
| timm | 1.0.27 |
| ModelScope | 1.35.3 |
pip install -r requirements.txt
python inference.py推理结果(Top-5):
| 排名 | 类别 | 概率 |
|---|---|---|
| Top-1 | class_649 | 0.0011 |
| Top-2 | class_979 | 0.0011 |
| Top-3 | class_977 | 0.0011 |
| Top-4 | class_445 | 0.0011 |
| Top-5 | class_984 | 0.0011 |
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.000041 |
| mean_abs_error | 0.000009 |
| relative_error | 0.0274% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 0.0055s |
| 最小延迟 | 0.0055s |
| 最大延迟 | 0.0056s |
| P50 | 0.0055s |
| P90 | 0.0055s |
| P95 | 0.0056s |
| 吞吐量 | 181.31 images/sec |
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
截图内容见 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
| logs/inference.log | 推理结果日志 |
| logs/accuracy.log | CPU-NPU 精度一致性检查日志 |
| logs/benchmark.log | 性能基准测试日志 |
#NPU