本项目将 timm/vgg13.tv_in1k 图片分类模型适配到华为昇腾 NPU (Ascend910) 上运行。使用 ModelScope snapshot_download 下载权重,timm.create_model(pretrained=False) 创建模型结构并加载本地权重,不依赖 HuggingFace 直连下载。
| 项目 | 信息 |
|---|---|
| 芯片 | Ascend910 |
| OS | Linux 5.10.0-182.0.0.95.r2220_156.hce2.aarch64 |
| PyTorch | 2.x |
| torch_npu | 支持 |
| npu-smi | Ascend910, Health OK, 65536MB HBM |
# 安装依赖
pip install -r requirements.txt
# 运行推理
python inference.py推理输出:
| 项目 | 值 |
|---|---|
| 模型 | timm/vgg13.tv_in1k |
| 设备 | npu:0 |
| 输入 shape | [1, 3, 224, 224] |
| 输出 shape | [1, 1000] |
Top-5 预测:
对单张测试图片进行 CPU 与 NPU 一致性验证:
| 指标 | 数值 |
|---|---|
| max_abs_error | 0.000715 |
| mean_abs_error | 0.000144 |
| relative_error | 0.0164% |
| cosine_similarity | 1.000000 |
| threshold | 1.0% |
| 结果 | PASS |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 2.08 ms |
| 最小延迟 | 2.06 ms |
| 最大延迟 | 2.10 ms |
| P50 | 2.07 ms |
| P90 | 2.09 ms |
| P95 | 2.09 ms |
| 吞吐量 | 481.72 images/sec |
测试条件:batch=1, 单次推理, Warmup 2 次, 正式 10 次。
本项目包含单图 smoke consistency 验证,非官方 ImageNet 完整验证集评测。详细指标见第 4 节。
详见 screenshots/self_verification.png。
| 文件 | 说明 |
|---|---|
| logs/inference.log | 推理结果日志 |
| logs/accuracy.log | CPU-NPU 精度一致性检查日志 |
| logs/benchmark.log | 性能基准测试日志 |
| logs/env_check.log | NPU 环境检查日志 |