speech_UniASR_asr_2pass-cantonese-CHS-16k-common-vocab1468-tensorflow1-online on Ascend NPU
1. 简介
本文档记录 speech_UniASR_asr_2pass-cantonese-CHS-16k-common-vocab1468-tensorflow1-online (UniASR 粤语 ASR) 在昇腾 NPU 上的适配验证结果。
- 模型来源: iic/speech_UniASR_asr_2pass-cantonese-CHS-16k-common-vocab1468-tensorflow1-online
- 架构: UniASR (SANM Encoder, 34 blocks, FSMN self-attention)
- 任务: 自动语音识别 (粤语, 在线模式)
- 适配状态: SUCCESS
- 适配时间: 2026-05-18
2. 验证环境
| 组件 | 版本 |
|---|
torch | 2.9.0 |
torch-npu | 2.9.0.post1 |
CANN | 8.5.1 |
- NPU: Ascend 910B4
- 系统: Linux aarch64
3. 推理脚本
python inference.py --device npu:0 --dtype float32
4. 推理输出证据
模型: speech_UniASR_asr_2pass-cantonese-CHS-16k-common-vocab1468-tensorflow1-online
设备: npu:0
精度: float32
模型参数量: 42,040,960
--- CPU 推理 ---
输出形状: [1, 100, 320]
总输出维度: 32000
是否有 NaN: False
--- NPU 推理 (npu:0) ---
输出形状: [1, 100, 320]
总输出维度: 32000
是否有 NaN: False
5. 性能参考
6. CPU vs NPU 精度对比
| 指标 | 数值 |
|---|
| Cosine Similarity | 1.000000 |
| Max Abs Error | 0.065844 |
| 精度误差 | < 0.01% |
| 是否满足要求 | 是（< 1%） |
7. 评测材料
| 材料 | 文件 | 说明 |
|---|
| 推理脚本 | inference.py | 独立可运行的 NPU 推理代码 |
8. 注意事项
- 使用 SANM (Self-Attention Memory Network) 编码器架构
- 编码器包含 34 个 SANM 块，每块含 FSMN 自注意力和前馈网络
- 输入: 语音特征 (B, T, 320)
- 输出: 编码器隐藏状态 (B, T, 320)
- 仅验证编码器部分，完整推理需要 FunASR 框架
贡献者: xujiashuai
参赛赛道: 模型适配赛道
提交时间: 2026-05-18
