g
gyccc/iic-speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404 on Ascend NPU

1. 简介

iic/speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404 是基于 ContextualParaformer (SANMEncoder) 架构的语音识别模型。

本项目将该模型适配到单卡昇腾 NPU(Ascend910)上运行,使用 ModelScope snapshot_download 下载权重,通过 FunASR AutoModel 框架加载,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。

2. 验证环境

项目配置
硬件单卡 Ascend910
CANN8.5.1
Python3.11.14
PyTorch2.9.0+cpu
torch_npu2.9.0.post1
FunASR1.3.1
模型架构ContextualParaformer (SANMEncoder)

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果(NPU):

NPU transcription: 欢迎大家来到么哒社区进行体验
NPU inference time: 4.4780s

4. 精度验证

对单张测试音频进行 CPU 与 NPU 一致性验证(encoder 输出层):

指标数值
relative_error0.0577%
cosine_similarity1.000000
threshold1.0%
结果PASS

5. 性能参考

指标数值
avg_latency736.74 ms
min_latency729.52 ms
max_latency745.08 ms
p50_latency737.46 ms
p90_latency742.07 ms
p95_latency744.65 ms
RTF0.1629

6. 自验证截图

详见 screenshots/self_verification.png。

7. 标签

#NPU #Ascend #ASR #Paraformer #FunASR