#NPU
| 项目 | 说明 |
|---|---|
| NPU 型号 | Ascend910B4 |
| NPU 数量 | 单卡 |
| CANN 版本 | 8.5.1 |
| 健康状态 | OK |
| 项目 | 版本 |
|---|---|
| Python | 3.11.14 |
| torch | 2.9.0+cpu |
| torch_npu | 2.9.0.post1 |
| transformers | 4.57.6 |
| torchvision | 0.24.0 |
| Pillow | 12.2.0 |
| requests | 2.33.1 |
| numpy | 1.26.4 |
pip install -r requirements.txt若当前环境已安装 torch / torch_npu,请勿强制覆盖,避免破坏现有 CANN 驱动兼容性。
权重通过 Transformers from_pretrained 从 Hugging Face Hub 自动下载。若网络无法直连 Hugging Face,请在运行命令前添加镜像:
export HF_ENDPOINT=https://hf-mirror.comexport HF_ENDPOINT=https://hf-mirror.com
python inference.py说明:
nvidia/mit-b0 的 image processor 和 classification modelnpu:0assets/test.jpg 执行真实推理logs/inference.log 与 logs/prediction.txt实际运行结果:
| 排名 | 标签 | 索引 | 置信度 |
|---|---|---|---|
| Top-1 | Samoyed, Samoyede | 258 | 0.277849 |
| Top-2 | Pomeranian | 259 | 0.126494 |
| Top-3 | papillon | 157 | 0.028240 |
| Top-4 | Arctic fox, white fox, Alopex lagopus | 279 | 0.023182 |
| Top-5 | Shetland sheepdog, Shetland sheep dog, Shetland | 230 | 0.016636 |
状态: 已完成
export HF_ENDPOINT=https://hf-mirror.com
python eval_accuracy.py说明:
assets/test.jpg 和同一预处理流程实际运行结果:
| 指标 | 数值 | 判定 |
|---|---|---|
| Logits max abs diff | 5.92e-03 | - |
| Logits mean abs diff | 1.16e-03 | - |
| Prob max abs diff | 0.000699 | PASS |
| Prob mean abs diff | 0.000002 | - |
| CPU top1 | 258 | - |
| NPU top1 | 258 | - |
| Top1 一致性 | YES | PASS |
结论: Accuracy validation PASSED (概率误差 < 1% 且 Top1 一致)
状态: 已完成
export HF_ENDPOINT=https://hf-mirror.com
python benchmark.py说明:
实际运行结果:
| 指标 | 数值 |
|---|---|
| Average latency | 12.662 ms |
| Min latency | 11.924 ms |
| Max latency | 15.071 ms |
| Throughput | 78.98 images/s |
状态: 已完成
| 文件路径 | 内容 |
|---|---|
logs/env_check.log | NPU 硬件信息、Python/依赖版本、NPU 可用性检查结果 |
logs/inference.log | inference.py 完整运行日志 |
logs/prediction.txt | 预测标签与置信度汇总 |
logs/accuracy.log | CPU vs NPU 精度对比结果 |
logs/benchmark.log | 性能基准测试统计结果 |
Connection to huggingface.co timed out原因: 当前环境无法直连 Hugging Face Hub。
解决: 在命令前添加 HF_ENDPOINT=https://hf-mirror.com,例如:
HF_ENDPOINT=https://hf-mirror.com python inference.pytorch_npu 报 Permission mismatch 或 owner does not match 警告原因: CANN / torch_npu 安装目录的属主与当前用户不一致。
解决: 此警告不影响推理功能,可忽略。若需消除,请联系管理员统一目录权限。
can't create directory /home/atomgit/ascend/log原因: Ascend 日志目录不存在。
解决: 执行 mkdir -p /home/atomgit/ascend/log 或忽略此 WARNING。
原因: 某些 logits 接近 0,导致相对误差计算不稳定。
解决: 本工程以 softmax 概率绝对差 和 Top1 一致性 作为主要精度判定标准,更加稳健。
nvidia-mit-b0-NPU/
├── assets/
│ └── test.jpg # 测试图片
├── logs/
│ ├── env_check.log # 环境检查日志
│ ├── inference.log # 推理日志
│ ├── prediction.txt # 预测结果
│ ├── accuracy.log # 精度验证日志
│ └── benchmark.log # 性能测试日志
├── scripts/ # 可放置辅助脚本
├── screenshots/ # 可放置截图
├── README.md # 本文件
├── requirements.txt # Python 依赖
├── inference.py # NPU 单图推理脚本
├── eval_accuracy.py # CPU vs NPU 精度验证脚本
└── benchmark.py # NPU 性能测试脚本