Docker安装部署FunASR (linux版本)

 一、介绍:

FunASR离线文件转写软件包,提供了一款功能强大的语音离线文件转写服务。拥有完整的语音识别链路,结合了语音端点检测、语音识别、标点等模型,可以将几十个小时的长音频与视频识别成带标点的文字,而且支持上百路请求同时进行转写。输出为带标点的文字,含有字级别时间戳,支持ITN与用户自定义热词等。服务端集成有ffmpeg,支持各种音视频格式输入。软件包提供有html、python、c++、java与c#等多种编程语言客户端,用户可以直接使用与进一步开发。

参考文档:

FunASR/runtime/docs/SDK_advanced_guide_offline_zh.md at main · modelscope/FunASR · GitHub

二、安装docker

下载docker 

curl -O https://isv-data.oss-cn-hangzhou.aliyuncs.com/ics/MaaS/ASR/shell/install_docker.sh;

安装docker

sudo bash install_docker.sh

三、运行docker服务端

sudo docker run -p 10095:10095 -it --privileged=true \
  -v $PWD/funasr-runtime-resources/models:/workspace/models \
  registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5

第一种启动方式,离线启动:

cd FunASR/runtime
nohup bash run_server.sh \
  --download-model-dir /workspace/models \
  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx \
  --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx  \
  --punc-dir damo/punc_ct-transformer_cn-en-common-vocab471067-large-onnx \
  --lm-dir damo/speech_ngram_lm_zh-cn-ai-wesp-fst \
  --itn-dir thuduj12/fst_itn_zh \
  --hotword /workspace/models/hotwords.txt > log.txt 2>&1 &

参数解释 

# 如果您想关闭ssl,增加参数:--certfile 0
# 如果您想使用时间戳或者nn热词模型进行部署,请设置--model-dir为对应模型:
#   damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx(时间戳)
#   damo/speech_paraformer-large-contextual_asr_nat-zh-cn-16k-common-vocab8404-onnx(nn热词)
# 如果您想在服务端加载热词,请在宿主机文件./funasr-runtime-resources/models/hotwords.txt配置热词(docker映射地址为/workspace/models/hotwords.txt):
#   每行一个热词,格式(热词 权重):阿里巴巴 20(注:热词理论上无限制,但为了兼顾性能和效果,建议热词长度不超过10,个数不超过1k,权重1~100)

 第二种启动方式,run_server_2pass启动:

cd FunASR/runtime
nohup bash run_server_2pass.sh  --certfile 0   --download-model-dir /workspace/models  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx  --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx   --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx   --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx  --itn-dir thuduj12/fst_itn_zh > log.txt 2>&1 &

到这一步表示启动成功

四、docker后端启动

1、后端启动需要在原有的命令行 -d ,表示后台启动,命令如下:

sudo docker run  -d -p 10095:10095 -it --privileged=true \
  -v $PWD/funasr-runtime-resources/models:/workspace/models \
  registry.cn-hangzhou.aliyuncs.com/funasr_repo/funasr:funasr-runtime-sdk-cpu-0.4.5

2、通过后端命令进入后台

容器启动时如果指定了-d参数,在后台运行容器,或者通过docker start重启已经停止的容器

可以通过以下两种方法进入容器:

(1).docker attach 容器ID

        docker ps -a   查看容器的ID

        注:使用attach进入容器后,如果在容器中执行exit或ctrl+d,会停止容器

docker attach  d1886269952f   连接容器

 第二种启动方式,run_server_2pass启动:

cd FunASR/runtime
nohup bash run_server_2pass.sh  --certfile 0   --download-model-dir /workspace/models  --vad-dir damo/speech_fsmn_vad_zh-cn-16k-common-onnx  --model-dir damo/speech_paraformer-large-vad-punc_asr_nat-zh-cn-16k-common-vocab8404-onnx   --online-model-dir damo/speech_paraformer-large_asr_nat-zh-cn-16k-common-vocab8404-online-onnx   --punc-dir damo/punc_ct-transformer_zh-cn-common-vad_realtime-vocab272727-onnx  --itn-dir thuduj12/fst_itn_zh > log.txt 2>&1 &

到这一步表示启动成功

后端启动就完成啦,在也不用担心容器退出造成服务端不能连接啦~

五、运行docker客户端

1、html 连接方式

输入连接地址,ws://ip:端口

 2、python连接方式

(1)使用conda安装环境

pip install websockets
pip install pyaudio

(2)运行命令

python funasr_wss_client.py --host "127.0.0.1" --port 10095 --mode 2pass --ssl 1

六、关闭服务命令:

# 查看 funasr-wss-server-2pass 对应的PID
ps -x | grep funasr-wss-server-2pass
kill -9 PID

七、window安装funASR链接

Docker部署FunASR(window11系统 )_docker funasr-CSDN博客

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值