Ascend-SACT/SenseVoice
模型介绍文件和版本Pull Requests讨论分析
下载使用量0

前言

本镜像包含了适用于昇腾平台的SenseVoice模型的代码和运行环境。下载镜像并按以下指导进行部署，便可实现SenseVoice在昇腾平台的推理。

环境准备

  1. 环境配置和配套版本
环境配置配置说明
服务器Atlas 800T/I A2 910B(64GB)
固件驱动版本25.3及以上
  • 本镜像仅适用于Atlas 800I A2 推理卡
  • 确保系统内已经正确的安装了 Docker 及 Ascend Docker Runtime

  1. 从本项目下载镜像文件 sense-voice.tar.gz 文件

  2. 导入 Docker 镜像

docker load --input ./sense-voice.tar.gz
  1. 创建docker容器
CONTAINER_NAME = "your container name"
IMAGE = "your image name"
docker run \
--name $CONTAINER_NAME \
--privileged \
--device /dev/davinci1 \
--device /dev/davinci_manager \
--device /dev/devmm_svm \
--device /dev/hisi_hdc \
-v /usr/local/dcmi:/usr/local/dcmi \
-v /usr/local/bin/npu-smi:/usr/local/bin/npu-smi \
-v /usr/local/Ascend/driver:/usr/local/Ascend/driver:ro \
-v /etc/ascend_install.info:/etc/ascend_install.info \
-it $IMAGE bash
  1. 启动容器
docker exec -it $CONTAINER_NAME bash

权重及代码获取

  1. 权重 权重已内置在容器内，路径为 /home/SenseVoiceSmall

  2. 代码 代码路径为 /home/ModelZoo-PyTorch/ACL_PyTorch/built-in/audio/SenseVoice/SenseVoice

执行 SenseVoice 推理

python3 infer_onnx.py --model_path=/home/SenseVoiceSmall --om_path=SenseVoice_linux_aarch64.om --device=0 --input="/home/SenseVoiceSmall/example/zh.mp3" --perform=True --loop=20