g
gyccc/dengcunqin-speech_seaco_paraformer_large_asr_nat-zh-cantonese-en-16k-common-vocab11666-pytorch-NPU
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

dengcunqin/speech_seaco_paraformer_large_asr_nat-zh-cantonese-en-16k-common-vocab11666-pytorch 在昇腾 NPU 上的部署

模型信息

  • 模型名称:dengcunqin/speech_seaco_paraformer_large_asr_nat-zh-cantonese-en-16k-common-vocab11666-pytorch
  • 任务类型:自动语音识别
  • 模型架构:SeacoParaformer (FunASR)
  • 来源:ModelScope

验证环境

  • 硬件:昇腾 910B
  • CANN:8.5.1
  • Python:3.11.14
  • torch_npu:适配 CANN 8.5.1

ModelScope 下载说明

pip install modelscope
python -c "from modelscope import snapshot_download; snapshot_download('dengcunqin/speech_seaco_paraformer_large_asr_nat-zh-cantonese-en-16k-common-vocab11666-pytorch')"

音频预处理说明

输入音频格式:16kHz,单声道,WAV

使用 model_utils.load_wav() 加载音频,支持 torchaudio/soundfile/wave 三层降级备用。

NPU 推理命令

pip install -r requirements.txt
python inference.py

NPU 推理输出

Model: dengcunqin/speech_seaco_paraformer_large_asr_nat-zh-cantonese-en-16k-common-vocab11666-pytorch
Audio: assets/test.wav
NPU transcription: 有无人知道金钟添马街系点去㗎

日志保存在 logs/inference.log。

CPU-NPU 精度一致性结果

指标数值
max_abs_error0.000022
mean_abs_error0.000002
relative_error0.0034%
cosine_similarity1.000000
threshold1.0%
结果PASS

Benchmark 结果

指标数值
平均延迟84.56 ms
最小延迟83.93 ms
最大延迟85.89 ms
P5084.30 ms
P9085.53 ms
P9585.71 ms
音频时长6.46 s
RTF0.0131

工程结构

.
├── assets/
│   └── test.wav
├── logs/
│   ├── env_check.log
│   ├── inference.log
│   ├── eval_consistency.log
│   └── benchmark.log
├── screenshots/
│   └── self_verification.txt
├── model_utils.py
├── inference.py
├── eval_consistency.py
├── benchmark.py
├── requirements.txt
├── .gitignore
└── README.md

运行说明

  1. 安装依赖:pip install -r requirements.txt
  2. 运行推理:python inference.py
  3. 运行一致性验证:python eval_consistency.py
  4. 运行性能测试:python benchmark.py

标签

#NPU #Ascend #ASR #FunASR #Paraformer #Cantonese #Chinese #English