| 组件 | 版本 |
|---|---|
| torch | 2.9.0 |
| torch-npu | 2.9.0.post1 |
| CANN | 8.5.1 |
| NPU | Ascend 910B4 |
| 操作系统 | Ubuntu 22.04.5 LTS (aarch64) |
| Python | 3.11.14 |
NPU 与 CPU 精度对比
| 指标 | 数值 |
|---|---|
| 余弦相似度 | 1.000000 |
| 最大绝对误差 | 0.003056 |
| 是否满足要求 | 是(< 1%) |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 10.27 毫秒 |
| 测试轮数 | 10 |
=== tf_efficientnetv2_b2.in1k ===
Params: 10,096,086
--- CPU ---
Shape: [1, 1000]
Prediction: 852
--- NPU ---
Shape: [1, 1000]
Prediction: 852
--- Comparison ---
Cosine Similarity: 1.000000
Max Abs Error: 0.003056
CPU pred: 852, NPU pred: 852
--- Latency ---
Avg: 10.27 ms (10 runs)
Done.# 环境准备
source /usr/local/Ascend/ascend-toolkit/set_env.sh
# 运行推理
/usr/local/python3.11.14/bin/python3 inference.py --device npu:0| 材料 | 文件 |
|---|---|
| 推理脚本 | inference.py |
| 精度报告 | report.json |
| 截图证据 | screenshots/ |