whisper-medium on Ascend NPU
1. 简介
本文档记录 openai/whisper-medium 在昇腾 NPU 上的适配验证结果。
- 模型来源: openai/whisper-medium
- 适配状态: SUCCESS
- 适配时间: 2026-05-20
2. 验证环境
| 组件 | 版本 |
|---|
torch | 2.9.0 |
torch-npu | 2.9.0.post1 |
transformers | 4.57.6 |
CANN | 8.5.1 |
- NPU: Ascend 910B4
- 系统: Ubuntu 22.04.5 LTS (aarch64)
3. 推理脚本
python inference.py --model-id openai/whisper-medium --device npu:0
4. Smoke 验证
| 指标 | 结果 |
|---|
| 输出形状 | [1, 1] |
| 推理状态 | SUCCESS ✅ |
5. 性能参考
| 指标 | 数值 |
|---|
| 平均延迟 | 149.46081638336182 ms |
6. 精度评测
✅ NPU vs CPU 精度对比
| 指标 | 数值 |
|---|
| Cosine Similarity | 1.000024676322937 |
| 精度误差 | -0.0025% |
| 是否满足要求 | 是（< 1%）✅ |
7. 评测材料
| 材料 | 文件 | 说明 |
|---|
| 推理脚本 | inference.py | NPU 推理代码 |
| 精度报告 | report.json | 结构化评测数据 |
8. 注意事项
- 首次运行需要从 HuggingFace 下载模型权重
- 建议在 NPU 设备上运行以获得最佳性能
参赛赛道: 模型适配赛道
提交时间: 2026-05-20