| 依赖项 | 版本要求 | 说明 |
|---|---|---|
| Python | >=3.10 | 实测 3.11 |
| torch / torch_npu | >=2.5 | NPU 上需安装 torch_npu(系统已内置 torch 2.7.1+cpu + torch_npu) |
| voxcpm | ==2.0.3 | 官方推理包(--no-deps 安装) |
| transformers | >=5.x | LlamaTokenizerFast 文本分词 |
| librosa | ==0.11.0 | 参考音频加载/重采样 |
| soundfile | ==0.14.0 | wav 写出 |
| einops | 最新版 | 张量重排 |
| huggingface_hub | >=1.0 | voxcpm 依赖 |
安装命令:
pip install --target /mnt/workspace/VoxCPM2/libs -i https://pypi.tuna.tsinghua.edu.cn/simple --no-deps \
voxcpm==2.0.3 einops "transformers>=5.15" "tokenizers==0.22.*" soundfile==0.14.0 librosa==0.11.0 \
tqdm huggingface_hub safetensors regex httpx numba llvmlite pooch lazy_loader joblib audioread msgpack soxr注意:不要把 torch/torch_npu/torchaudio 装入 libs(避免遮蔽系统 torch+torch_npu 组合);权重与 tokenizer.json 已随权重目录离线分发,推理全程无需联网。
# 检查 NPU 设备
npu-smi info
# 权重已就位
ls /home/developer/models/VoxCPM2/ # config.json model.safetensors audiovae.pth tokenizer.json ...PYTHONPATH=/mnt/workspace/VoxCPM2/libs python3 inference.py --model_path /home/developer/models/VoxCPM2| 参数 | 类型 | 默认值 | 说明 |
|---|---|---|---|
| --model_path | str | /home/developer/models/VoxCPM2 | 本地权重目录 |
| --device | str | 自动(npu > cuda > cpu) | 推理设备 |
| --text | str | 内置中英混排示例句 | 待合成文本 |
| --cfg_value | float | 2.0 | 引导强度(classifier-free guidance) |
| --inference_timesteps | int | 10 | 扩散采样步数,越大音质越好、速度越慢 |
| --output | str | assets/output.wav | 合成音频输出路径 |
输入:
PYTHONPATH=/mnt/workspace/VoxCPM2/libs python3 inference.py --model_path /home/developer/models/VoxCPM2示例文本:
你好,欢迎使用昇腾NPU。VoxCPM2 is a tokenizer-free text-to-speech model.输出:
Using device: npu
Loaded VoxCPM2Model
Running on device: npu, dtype: bfloat16
Model loaded in xx.xx s
sample_rate: 48000
audio_duration: x.xx s
rtf: x.xxx
耗时/elapsed: x.xxx s
output: saved to .../assets/output.wav



--model_path 加载(脚本设置 HF_HUB_OFFLINE=1 与 TRANSFORMERS_OFFLINE=1,且传入本地目录路径直接加载),推理全程离线;resolve_runtime_device 以支持 npu 设备;optimize=False 加载(跳过 torch.compile 预热),NPU 上不依赖 triton;注意力为 SDPA(scaled_dot_product_attention)实现,未使用 flash_attention_2;model.generate(text=..., prompt_wav_path=..., prompt_text=...)(参考音频需 16kHz wav)。