第三十八篇-TeslaP40-SenseVoice部署,速速杠杠的

环境

系统：CentOS-7
CPU: 14C28T
内存：32G
显卡：Tesla P40 24G
驱动: 535
CUDA: 12.2

创建环境

conda create -n sv python=3.11 -y
conda activate sv

克隆

git clone https://github.com/FunAudioLLM/SenseVoice.git
cd SenseVoice

配置镜像地址

export HF_ENDPOINT=https://hf-mirror.com

懂得哦

修改配置

webui.py
demo.launch(server_name="0.0.0.0", server_port=7860)

你喜欢的端口，方便远程访问，如果本地访问不用配置默认就好

启动

python webui.py

访问

http://192.168.1.111:7860/

图1

图2

上传文件一定等文件上传完成，如图2，再选择一个语音的语言
点击 Start

总结

P40默认跑SenseVoice，识别1分钟的音频3秒完成，速度快啊，识别的准确率还是很好的，有待进一步测试