| 组件 | 版本 |
|---|---|
| torch | 2.9.0 |
| torch-npu | 2.9.0.post1 |
| CANN | 8.5.1 |
| NPU | Ascend 910B4 |
| OS | Ubuntu 22.04.5 LTS (aarch64) |
| Python | 3.11.14 |
✅ NPU vs CPU 精度对比
| 指标 | 数值 |
|---|---|
| Cosine Similarity | 0.999965 |
| Max Absolute Error | 0.000000 |
| 精度误差 | N/A |
| 是否满足要求 | 是(< 1%)✅ |
| 指标 | 数值 |
|---|---|
| 平均延迟 | 17.36 ms |
| 测试轮数 | 10 |
# 环境准备
source /usr/local/Ascend/ascend-toolkit/set_env.sh
# 运行推理
python3 inference.py --device npu:0| 材料 | 文件 |
|---|---|
| 推理脚本 | inference.py |
| 精度报告 | report.json |
| 截图证据 | screenshots/ |