本项目将 timm/mobilevit_xs.cvnets_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910)。
使用 ModelScope snapshot_download 下载权重,通过 timm.create_model(pretrained=False) 创建模型并加载本地权重,在单卡 NPU 上完成推理验证、CPU-NPU 精度一致性检查和性能基准测试。
| 项目 | 版本/型号 |
|---|---|
| NPU | Ascend910 |
| CANN | 8.5.1 |
| Python | 3.11.14 |
| PyTorch | 2.x |
| torch_npu | 可用 |
环境检查日志:logs/env_check.log
pip install -r requirements.txt
python inference.py推理结果 (NPU Top-5):
输入尺寸:[1, 3, 256, 256]
输出尺寸:[1, 1000]
日志保存在 logs/inference.log。
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.020349 |
| mean_abs_error | 0.005900 |
| relative_error | 0.5514% |
| cosine_similarity | 0.999989 |
| threshold | 1.0% |
| 结果 | PASS |
在单卡 Ascend910 NPU 上的基准测试结果:
| 指标 | 数值 |
|---|---|
| avg_latency_ms | 7.490 |
| min_latency_ms | 7.315 |
| max_latency_ms | 7.721 |
| p50_latency_ms | 7.451 |
| p90_latency_ms | 7.721 |
| p95_latency_ms | 7.721 |
| images_per_sec | 133.51 |
测试配置:预热 2 次,正式 10 次,每次前后 torch.npu.synchronize()。
日志保存在 logs/benchmark.log。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
见 screenshots/self_verification.png 与 screenshots/self_verification.txt。
| 文件 | 内容 |
|---|---|
logs/env_check.log | NPU 环境检查 |
logs/inference.log | NPU 推理结果 |
logs/accuracy.log | CPU-NPU 精度一致性 |
logs/benchmark.log | NPU 性能基准测试 |
timm.create_model(..., pretrained=True) 自动从 HuggingFace 下载。timm.data.resolve_model_data_config 自动解析)。.bin/.safetensors/.pth 等已在 .gitignore 中排除)。#NPU #Ascend #Ascend910 #mobilevit