whisper-large-v2 在昇腾 NPU 上的适配
1. 简介
- 模型来源：openai/whisper-large-v2
- 参数量：1,543,304,960
- 适配状态：成功
- 适配时间：2026-05-15 03:07:48
2. 验证环境
| 组件 | 版本 |
|---|
| torch | 2.9.0 |
| torch-npu | 2.9.0.post1 |
| transformers | 4.57.6 |
| CANN | 8.5.1 |
| NPU | 昇腾 910B4 |
| OS | Ubuntu 22.04.5 LTS (aarch64) |
| Python | 3.11.14 |
3. 精度评测
✅ NPU 与 CPU 精度对比
| 指标 | 数值 |
|---|
| 余弦相似度 | 0.999860 |
| 精度误差 | 0.0140% |
| 是否满足要求 | 是（< 1%）✅ |
4. 性能
| 指标 | 数值 |
|---|
| 平均延迟 | 188.91 毫秒 |
| 峰值显存 | 3.15 GB |
| 测试轮数 | 10 |
5. 复现步骤
python3 env_check.py
python3 evaluate.py --model-id openai/whisper-large-v2 --device npu:0 --output report.json
python3 inference.py --model-id openai/whisper-large-v2 --device npu:0
6. 评测材料
| 材料 | 文件 |
|---|
| 推理脚本 | inference.py |
| 精度评测 | evaluate.py |
| 环境检查 | env_check.py |
| 运行日志 | logs/run.log |
| 截图 | screenshots/ |
| 报告 | report.json |
| 部署文档 | DEPLOY.md |
| 依赖 | requirements.txt |
贡献者: xujiashuai | 赛道: 模型适配赛道 | 时间: 2026-05-15 03:18:10
