g
gyccc/iic-speech_paraformer-tiny-commandword_asr_nat-zh-cn-16k-vocab544-pytorch-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

speech_paraformer-tiny-commandword_asr_nat-zh-cn-16k-vocab544-pytorch on Ascend NPU

1. 简介

iic/speech_paraformer-tiny-commandword_asr_nat-zh-cn-16k-vocab544-pytorch 是基于 Paraformer (ConformerEncoder) 架构的语音识别模型。

本项目将该模型适配到单卡昇腾 NPU(Ascend910)上运行,使用 ModelScope snapshot_download 下载权重,通过 FunASR AutoModel 框架加载,包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。

2. 验证环境

项目配置
硬件单卡 Ascend910
CANN8.5.1
Python3.11.14
PyTorch2.9.0+cpu
torch_npu2.9.0.post1
FunASR1.3.1
模型架构Paraformer (ConformerEncoder)

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果(NPU):

NPU transcription: 温度调高
NPU inference time: 0.3585s

4. 精度验证

对单张测试音频进行 CPU 与 NPU 一致性验证(encoder 输出层):

指标数值
relative_error0.0611%
cosine_similarity1.000000
threshold1.0%
结果PASS

5. 性能参考

指标数值
avg_latency18.11 ms
min_latency17.36 ms
max_latency19.25 ms
p50_latency17.57 ms
p90_latency19.06 ms
p95_latency19.10 ms
RTF0.0044

6. 自验证截图

详见 screenshots/self_verification.png。

7. 标签

#NPU #Ascend #ASR #Paraformer #FunASR