2301_76761127/voxcpm2-npu
模型介绍
文件和版本
Pull Requests
讨论
分析

VoxCPM2 on Ascend NPU

本仓提供 openbmb/VoxCPM2 的昇腾 NPU 离线推理入口,使用官方 voxcpm==2.0.3 包,不修改模型数学实现。推荐模型快照 revision bffb3df5a29440629464e5e839f4d214c8714c3d。denoiser 与 torch.compile 优化在验收路径中关闭。

环境与目录

验证环境为 Ascend 910B3、CANN 8.5.1、Python 3.11、PyTorch 2.9.0 和 torch_npu 2.9.0.post1。保留平台自带的 CANN/PyTorch/torch_npu,仅安装模型层依赖。

workspace/
├── repo/
├── model/
└── pydeps/
cd repo
python3 -m pip install --no-deps --target ../pydeps -r requirements.txt

NPU 推理

cd repo
source /usr/local/Ascend/cann-8.5.1/set_env.sh
export PYTHONNOUSERSITE=1
export PYTHONPATH=../pydeps:$PYTHONPATH
EVIDENCE_HOLD_SECONDS=0 python3 inference.py --model_path ../model \
  --device npu:0 --seed 20260816 --output_json result.json

入口仅接受 npu:N,不提供 CPU/CUDA 推理回退。官方包先按其公开 CPU 构造路径建立模型,再通过公开 nn.Module.to 与 KV-cache 初始化 API 放置到指定 NPU;完整生成前向仍在 NPU 上执行。NPU 不可用、模型/KV-cache/AudioVAE 输入未在指定 NPU、波形为空或出现非有限值时均非零退出。

固定测试包含 8 条中英文文本。当前 Model Agent 容器已在真实 Ascend NPU 上完成 8 个样本并输出 1,574,400 个有限波形值,exit_status=0。该 fast-track 结果只验证 NPU 运行,不评价语音质量或 CPU/NPU 精度。

证据

assets/ 最终包含两组 agent_workflow、npu_device_call 和 model_result 截图。

本仓为 2301_76761127 队伍交付件(与备份账号合并提交)。