FunAudioLLM/Fun-ASR-Nano-2512 on Ascend NPU

1. 简介

Fun-ASR-Nano-2512 是阿里云 FunAudioLLM 团队推出的小型端到端语音识别模型，基于 SenseVoice 编码器 + Qwen3-0.6B 大语言模型架构，支持中英文语音转写。

本项目将该模型适配到单卡昇腾 NPU（Ascend910）上运行，使用 ModelScope snapshot_download 下载权重，通过 FunASR AutoModel 框架加载，包含推理验证、CPU-NPU 精度一致性检查和性能基准测试。

2. 验证环境

3. 推理运行

pip install -r requirements.txt
python inference.py

推理结果（NPU）：

NPU transcription: 开饭时间早上九点至下午五点。
NPU inference time: 2.1886s

音频时长 5.62 秒，RTF=0.190（处理速度快于实时）。

4. 精度验证

对单张测试音频进行 CPU 与 NPU 一致性验证（audio_encoder 输出层）：

• CPU Top-1: 开饭时间早上九点至下午五点。
• NPU Top-1: 开饭时间早上九点至下午五点。
• Top-1 match: True

5. 性能参考

20 次迭代基准测试（5.62s 音频）：

6. 精度评测说明

本项目包含单图 smoke consistency 验证，非官方完整验证集评测。详细指标见第 4 节。

7. 自验证截图

详见 screenshots/self_verification.png。

8. 日志文件

• logs/inference.log — NPU 推理日志
• logs/eval_consistency.log — CPU-NPU 精度一致性检查
• logs/benchmark.log — 性能基准测试
• logs/env_check.log — 环境检查

9. 注意事项

• 本模型为 LLM-based ASR，使用 generate() 进行自回归解码，推理时间与输出长度相关
• 需要 soundfile 和 scipy 库进行音频加载（环境无 ffmpeg）
• FunASRNano 模块需要手动注册（sys.path 补丁），详见 model_utils.py
• 精度一致性通过 audio_encoder 层 hook 比较，relative_error 远低于 1.0% 阈值

10. 标签 #NPU

#NPU #Ascend #ASR #FunASR #FunAudioLLM