GPT-SoVITS项目的API改良与使用

已于 2024-05-05 11:29:54 修改
阅读量4.7k 收藏 54
点赞数 33
文章标签： gpt opencv 深度学习 python 人工智能 机器学习
于 2024-03-08 10:04:58 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/AAI666666/article/details/136554163
版权

GPT-SoVITS是一个非常棒的少样本中文声音克隆项目，之前有一篇文章详细介绍过如何部署和训练自己的模型，并使用该模型在web界面中合成声音，可惜它自带的 api 在调用方面支持比较差，比如不能中英混合、无法按标点切分句子等，因此对原版api做了修改，详细使用说明如下。

修改后代码开源地址：github.com/jianchang51…

代码下载地址 github.com/jianchang51…

api2.py 使用示例

下载解压 github.com/jianchang51… ，将 api2.py 复制到GPT-SoVITS软件目录下，执行命令同自带api.py一样，只需要将名字 api.py 改成 api2.py。默认端口也是 9880，默认绑定 127.0.0.1

效果音频，听听这是谁

启动默认模型并指定默认参考音频 -dr -dt -dl

假设参考音频要使用根目录下的 123.wav ,音频文字是 “一二三四五六七。” ，音频语言是中文，那么命令如下：

.\runtime\python api2.py -dr "123.wav" -dt "一二三四五六七。" -dl "zh"

image.png

Linux下命令去掉 .\runtime 即可

如上述命令这样在启动后，指定的参考音频将作为默认配置，在api请求数据中未指定参考音频时，将使用。

启动默认模型并指定ip地址和端口 -a -p

假设要指定绑定内网ip 192.168.0.120 ，端口要使用 9001，不指定默认参考音频，那么执行如下命令:

.\runtime\python api2.py -a "127.0.0.1" -p 9001

image.png

启动自己训练好的模型 -s -g

在指定自己的模型时，必须确保同时指定参考音频。

训练好的模型可分别在软件目录下的 GPT_weights 和 SoVITS_weights 目录下寻找，以你训练时命名的模型名称开头，后跟e数字最大的那个即可。

.\runtime\python api2.py -s "SoVITS_weights/你的模型名" -g "GPT_weights/你的模型名" -dr "参考音频路径和名称" -dt "参考音频的文字内容，使用双引号括起来，确保文字内容里没有双引号" -dl zh|ja|en三者选一

image.png

强制在CPU上推理 -d cpu

默认将优先使用 CUDA 或 mps(Mac), 如果你想指定在CPU上运行，可以通过 -d cpu 指定

.\runtime\python api2.py -d cpu

注意 -d 后只能是 cpu 或 cuda 或 mps，并且只有在正确配置 cuda 后才能指定 cuda，只有Apple CPU Mac上才能指定 mps

全部按照默认运行

.\runtime\python api2.py

这种方式将使用默认模型，并且在 api 请求时必须指定参考音频、参考音频文字内容、参考音频语言代码，api 监听 9880 端口

可使用的语言代码 zh ja en

仅支持 中文、日语、英语 三种语言，对应只可使用 zh(代表中文或中英混合)、ja(代表日语或日英混合)、en(代表英语)，使用 -dl 指定，如 -dl zh,-dl ja,-dl en

参考音频路径 -dr

参考音频填写以软件根目录为起点的相对目录，假如你的参考音频是直接放在软件根目录下，那么只需要填写带后缀的完整名字即可，比如 -dr 123.wav,如果是在子目录下，比如在 wavs 文件夹下，那么填写 -dr "wavs/123.wav"

参考音频的文字内容 -dt

参考音频的文字内容就是音频里的说话文字，需要正确填写标点符号，并使用英文双引号括起来。请注意，文字中不要再有英文双引号。

-dt "这里填写参考音频的文字内容，不要含有英文双引号"

image.png

可用的命令行参数:

模型相关参数

-s SoVITS模型路径, 默认模型无需填写，自训练模型在 SoVITS_weights 目录下

-g GPT模型路径, 默认模型无需填写，自训练模型在 GPT_weights 目录下

参考音频相关参数

-dr 默认参考音频路径，如果在根目录下，直接填写带后缀名字，否则加上 路径/名字

-dt 默认参考音频文本，音频的文字内容，以英文双引号括起来

-dl 默认参考音频内容的语种, “zh"或"en"或"ja”

设备和地址相关参数

-d 推理设备, “cuda”,“cpu”,“mps” 只有配置好了cuda环境才可指定cuda，只有Apple CPU上才可指定mps

-a 绑定地址, 默认"127.0.0.1"

-p 绑定端口, 默认9880

不常用参数，新手可忽略不必设置

-fp 使用全精度

-hp 使用半精度

-hb cnhubert路径

-b bert路径

API调用示例:

调用地址url: http://你指定的ip:指定的端口，默认是 http://127.0.0.1:9880

调用时不指定参考音频

启动 api2.py 时必须指定默认参考音频，才可在调用api时不指定，否则将报错:

GET方式调用，可直接浏览器中打开：

http://127.0.0.1:9880?text=亲爱的朋友你好啊，希望你的每一天都充满快乐。&text_language=zh

image.png

POST方式调用，以json格式传参:

json
复制代码
{
    "text": "先帝创业未半而中道崩殂，今天下三分，益州疲弊，此诚危急存亡之秋也。",
    "text_language": "zh"
}

image.png

手动指定当次所使用的参考音频:

GET方式:

http://127.0.0.1:9880?refer_wav_path=wavs/5.wav&prompt_text=为什么御弟哥哥，甘愿守孤灯。&prompt_language=zh&text=亲爱的朋友你好啊，希望你的每一天都充满快乐。&text_language=zh

POST方式:

json
复制代码
{
    "refer_wav_path": "wavs/5.wav",
    "prompt_text": "为什么御弟哥哥，甘愿守孤灯。",
    "prompt_language": "zh",
    "text": "亲爱的朋友你好啊，希望你的每一天都充满快乐。",
    "text_language": "zh"
}

image.png

Api调用返回信息:

成功时: 返回 wav 音频流，可直接播放或保存到 wav文件中，http 状态码 200

失败时: 返回包含错误信息的 json, http 状态码 400

css
复制代码
{"code": 400, "message": "未指定参考音频且接口无预设"}

问题：想切换模型怎么办

api2.py和官方原版api.py 一样都不支持动态模型切换，也不建议这样做，因为动态启动加载模型很慢，而且在失败时也不方便处理。

解决方法是： 一个模型起一个api服务器，绑定不同的端口，在启动 api2.py 时，指定当前服务所要使用的模型和绑定的端口。

比如起2个服务，一个使用默认模型，绑定 9880 端口，一个绑定自己训练的模型，绑定 9881 端口，命令如下

默认模型 9880 端口: http://127.0.0.1:9880

.\runtime\python api2.py -dr "5.wav" -dt "今天好开心" -dl zh

自己训练的模型: http://127.0.0.1:9881

.\runtime\python api2.py -p 9881 -s "SoVITS_weights/mymode-e200.pth" -g "GPT_weights/mymode-e200.ckpt" -dr "wavs/10.wav" -dt "御弟哥哥，为什么甘愿守孤灯" -dl zh

image.png

在视频翻译软件中使用

如下图所示，打开 菜单-设置-GPT-SoVITS ，填写api地址，以及参考音频， 填写格式为一行一个参考音频

bash
复制代码

参考音频路径带后缀名称1#参考音频1文字内容#参考音频1语言
参考音频路径带后缀名称2#参考音频2文字内容#参考音频2语言

详细说明可看上一篇文章 在其他软件中调用GPT-SoVITS将文字合成语音

image.png

小技巧

中英混合的句子如何取得更好的训练效果：

英文单词前后要留有空格，不要直接和汉字连在一起，因为英文是靠空格区分的，如果连在一起，可能无法正确识别。

此api2.py 兼容视频翻译配音软件的 GPT-SoVITS 声音合成功能

如何学习大模型 AI ？

由于新岗位的生产效率，要优于被取代岗位的生产效率，所以实际上整个社会的生产效率是提升的。

但是具体到个人，只能说是：

“最先掌握AI的人，将会比较晚掌握AI的人有竞争优势”。

这句话，放在计算机、互联网、移动互联网的开局时期，都是一样的道理。

我在一线互联网企业工作十余年里，指导过不少同行后辈。帮助很多人得到了学习和成长。

我意识到有很多经验和知识值得分享给大家，也可以通过我们的能力和经验解答大家在人工智能学习中的很多困惑，所以在工作繁忙的情况下还是坚持各种整理和分享。但苦于知识传播途径有限，很多互联网行业朋友无法获得正确的资料得到学习提升，故此将并将重要的AI大模型资料包括AI大模型入门学习思维导图、精品AI大模型学习书籍手册、视频教程、实战学习等录播视频免费分享出来。

😝有需要的小伙伴，可以点击下方链接免费领取或者V扫描下方二维码免费领取🆓

在这里插入图片描述

在这里插入图片描述

第一阶段（10天）：初阶应用

该阶段让大家对大模型 AI有一个最前沿的认识，对大模型 AI 的理解超过 95% 的人，可以在相关讨论时发表高级、不跟风、又接地气的见解，别人只会和 AI 聊天，而你能调教 AI，并能用代码将大模型和业务衔接。

  • 大模型 AI 能干什么？
  • 大模型是怎样获得「智能」的？
  • 用好 AI 的核心心法
  • 大模型应用业务架构
  • 大模型应用技术架构
  • 代码示例：向 GPT-3.5 灌入新知识
  • 提示工程的意义和核心思想
  • Prompt 典型构成
  • 指令调优方法论
  • 思维链和思维树
  • Prompt 攻击和防范
  • …

第二阶段（30天）：高阶应用

该阶段我们正式进入大模型 AI 进阶实战学习，学会构造私有知识库，扩展 AI 的能力。快速开发一个完整的基于 agent 对话机器人。掌握功能最强的大模型开发框架，抓住最新的技术进展，适合 Python 和 JavaScript 程序员。

  • 为什么要做 RAG
  • 搭建一个简单的 ChatPDF
  • 检索的基础概念
  • 什么是向量表示（Embeddings）
  • 向量数据库与向量检索
  • 基于向量检索的 RAG
  • 搭建 RAG 系统的扩展知识
  • 混合检索与 RAG-Fusion 简介
  • 向量模型本地部署
  • …

第三阶段（30天）：模型训练

恭喜你，如果学到这里，你基本可以找到一份大模型 AI相关的工作，自己也能训练 GPT 了！通过微调，训练自己的垂直大模型，能独立训练开源多模态大模型，掌握更多技术方案。

到此为止，大概2个月的时间。你已经成为了一名“AI小子”。那么你还想往下探索吗？

  • 为什么要做 RAG
  • 什么是模型
  • 什么是模型训练
  • 求解器 & 损失函数简介
  • 小实验2：手写一个简单的神经网络并训练它
  • 什么是训练/预训练/微调/轻量化微调
  • Transformer结构简介
  • 轻量化微调
  • 实验数据集的构建
  • …

第四阶段（20天）：商业闭环

对全球大模型从性能、吞吐量、成本等方面有一定的认知，可以在云端和本地等多种环境下部署大模型，找到适合自己的项目/创业方向，做一名被 AI 武装的产品经理。

  • 硬件选型
  • 带你了解全球大模型
  • 使用国产大模型服务
  • 搭建 OpenAI 代理
  • 热身：基于阿里云 PAI 部署 Stable Diffusion
  • 在本地计算机运行大模型
  • 大模型的私有化部署
  • 基于 vLLM 部署大模型
  • 案例：如何优雅地在阿里云私有部署开源大模型
  • 部署一套开源 LLM 项目
  • 内容安全
  • 互联网信息服务算法备案
  • …

学习是一个过程，只要学习就会有挑战。天道酬勤，你越努力，就会成为越优秀的自己。

如果你能在15天内完成所有的任务，那你堪称天才。然而，如果你能完成 60-70% 的内容，你就已经开始具备成为一名大模型 AI 的正确特征了。

这份完整版的大模型 AI 学习资料已经上传CSDN，朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】

😝有需要的小伙伴，可以Vx扫描下方二维码免费领取==🆓

在这里插入图片描述

AAI机器之心
关注
  • 33
    点赞
  • 踩
  • 54
    收藏
    觉得还不错? 一键收藏
  • 4
    评论
GPT-SoVITS 快速声音克隆使用案例：webui、api接口
weixin_42357472的博客
02-23 1417
参考： https://github.com/RVC-Boss/GPT-SoVITS环境： Python 3.10 PyTorch 2.1.2, CUDA 12.0 安装包： 1）下载项目 2）下载预训练模型 https://huggingface.co/lj1995/GPT-SoVITS 下载模型文件放到GPT-SoVITS/GPT-SoVITS/pretrained_models/ 下 3）项目GPT-SoVITS文件下运行 进入这页面点击开启tts推理ui，后台会新启动一个页面9872的端口页面9
GPT-SoVITS-WebUI 声音克隆，强大的少样本语音转换与语音合成Web用户界面，支持中英日语
01-22
功能： 1、零样本文本到语音（TTS）： 输入5秒的声音样本，即刻体验文本到语音转换。 2、少样本TTS： 仅需1分钟的训练数据即可微调模型，提升声音相似度和真实感。 3、跨语言支持： 支持与训练数据集不同语言的推理，目前支持英语、日语和中文。 /4、WebUI工具： 集成工具包括声音伴奏分离、自动训练集分割、中文自动语音识别(ASR)和文本标注，协助初学者创建训练数据集和GPT/SoVITS模型。
GPT-SoVits：刚上线就获得了5.1k star的开源声音克隆项目！效果炸裂的跨语言音色克隆模型！
z_ipython的博客
01-27 4207
GPT-SoVITS是一款强大的支持少量语音转换、文本到语音的音色克隆模型。支持中文、英文、日文的语音推理。据开发者及各大博主测验，仅需提供 5 秒语音样本即可体验达到 80%~95% 像的声音克隆。若提供 1 分钟语音样本可以逼近真人的效果，且训练出高质量的 TTS 模型！项目地址：https://github.com/RVC-Boss/GPT-SoVITS目前已获得5.1k Star，看到很多人对其评价为目前最强中文语音克隆工具。GPT-SoVITS。
声音克隆教程-GPT-SoVITS
月流霜的专栏
05-27 1222
这个窗口实际就是调整每个语段，如果你的输入音频很大，有十几分钟，切割之后可以做一些合并，操作也很简单，选中片段然后点击。，在声音训练上面非常简单，几乎可以说是傻瓜式操作，虽然它也有一些弊端和缺点，但是无疑在目前市面上，，增加视频的趣味性以及观看性，由于我这台电脑的显卡限制，我导入训练的素材只有四十秒，所以语音的。是目前市面上最好的语音克隆工具，且开源，虽然用到的所有技术不是最新的，但它开创性的加入了。，但是我看了很多其他博主的测试，如果是原声情况下，自己的声音还原度基本可以以假乱真。
GPT-SoVITS的部署与API调用（主要以AutoDL云端部署）
qq_61884165的博客
03-21 2645
GPT-SoVITS是一款强大的支持少量语音转换、文本到语音的音色克隆模型。支持中文、英文、日文的语言推理。据开发者各大博主测验，仅需提供5秒语音样本即可体验达到80%-95%像的声音克隆。若提供一分钟语音样本可以逼近真人的效果，且训练出高质量的TTS模型。训练推理整合包地址：百度网盘 请输入提取码百度网盘为您提供文件的网络备份、同步和分享服务。空间大、速度快、安全稳固，支持教育网加速，支持手机端。注册使用百度网盘即可享受免费存储空间。
内含教程丨音色克隆模型 GPT-SoVITS，5 秒语音就能克隆出相似度 95% 的声音
HyperAI超神经
03-05 2445
8. 在「数据集地址」模块内填写本次想要克隆声音的数据集地址，选择音频数据类型后，点击「开始训练」，待输出结果显示为「模型正在开启预测，请稍后」，回到「run.ipynb」，即可看到显示「GPT 训练完成」。1. 数据准备完成后，在左侧菜单栏「公共教程」中，打开「GPT-SoVITS 音频合成在线 Demo」，回到该教程页面，再点击右上角「克隆」，将教程克隆至自己的容器中。6. 打开工作空间后，点击左侧「run.ipynb」，通过菜单栏中的「运行」按钮，点击「运行所有单元格」。
【AIGC调研系列】chatTTS与GPT-SoVITS的对比优劣势
zachary的博客
06-04 2430
ChatTTS和GPT-SoVITS都是在文本转语音（TTS）领域的重要开源项目，但它们各自有不同的优势和劣势。ChatTTSGPT-SoVITSChatTTS在多语言支持、细粒度控制和对话场景应用方面表现出色，但在处理长文本和伦理限制方面存在一定的局限。GPT-SoVITS则在少样本中文声音克隆和跨语言推理能力方面有显著优势，但其API调用支持较差且训练和推理过程较为复杂。根据具体需求选择合适的模型是关键。
GPT-SoVITS 测试
weixin_40994552的博客
01-27 2959
AutoDL地址：https://www.codewithgpu.com/i/RVC-Boss/GPT-SoVITS/GPT-SoVITS-Official。Blili 地址：https://www.bilibili.com/video/BV12g4y1m7Uw。GitHub地址：https://github.com/RVC-Boss/GPT-SoVITS。step2 创建好实例之后，进入命令行，输入命令。step4 完成之后，点击 tab 栏，随后选择公网地址打开，进入Web页面。step1 打开地址。
文字转语音TTS工具，开源可本地或云端部署：GPT-SoVITS
诸神缄默不语的博客
04-15 2662
本文介绍文字转语音工具：GPT-SoVITS
【超详细教程】GPT-SoVITs从零开始训练声音克隆教程（主要以云端AutoDL部署为例）
热门推荐
Little_Carter的博客
01-29 4万+
近日，RVC变声器的创始人（GitHub昵称为RVC-Boss）与AI音色转换技术专家Rcell合作，共同开发并开源了一款创新的跨语言音色克隆工具——GPT-SoVITS。这个项目在互联网上迅速获得了广泛关注和好评，众多业界大佬和知名博主都对其给予了推荐。自项目上线以来，短短两天内，它在GitHub上的Star数就达到了1.4k，而现在这个数字已经飙升至6.5k。GPT-SoVITS的开发历时半年，期间RVC-Boss和Rcell面临了诸多挑战。
声音的克隆：GPT-SoVITS
dataddd的博客
05-13 908
下载必要的使用的包。
基于中文文本情绪分析自动切换参考音频的 GPT-SoVITS 推理
05-11
基于中文文本情绪分析自动切换参考音频的 GPT-SoVITS 推理 GPT, 通常指的是“Generative Pre-trained Transformer”（生成式预训练转换器），是一个在自然语言处理（NLP）领域非常流行的深度学习模型架构。GPT模型...
GPT-SoVITS语音合成服务器部署（远程访问）
03-14
生成的语音
基于GPT-SoVITS的视频剪辑快捷配音工具.zip
05-11
基于GPT-SoVITS的视频剪辑快捷配音工具 GPT, 通常指的是“Generative Pre-trained Transformer”（生成式预训练转换器），是一个在自然语言处理（NLP）领域非常流行的深度学习模型架构。GPT模型由OpenAI公司开发，并...
使用GPT-SoVITS克隆的梅琳娜的声音
最新发布
06-10
总结来说，这个项目展示了如何利用先进的AI技术，如GPT-SoVITS，来克隆特定人物的声音，并将其应用到智能助手的音色更新中。通过训练模型学习游戏原声，可以生成与梅琳娜声音高度相似的新语音，从而提升用户的交互...
GPT-SoVITS语音合成服务器部署，可远程访问（全部代码和详细部署步骤）
qq_34717531的博客
03-18 2425
此外，项目还提供了一些集成工具，包括声音伴奏分离，自动训练集分割，中文ASR和文本标签，帮助初学者创建训练数据集和 GPT/SoVITS 模型。Zero-shot TTS 可以让用户输入5秒钟的语音样本并立即体验转换后的语音，而 Few-shot TTS 则可以通过使用仅一分钟的训练数据进行模型微调，从而提高语音相似度和真实性。WebUI 工具：集成工具包括声音伴奏分离，自动训练集分割，中文ASR和文本标签，帮助初学者创建训练数据集和GPT/SoVITS模型。
GPT-SoVITS教程,接入酒馆AI,SillyTavern-1.11.5,让AI女友声若幽兰
刘悦的技术博客
03-26 1346
本次分享一下如何将GPT-SoVITS接入SillyTavern-1.11.5项目，让让AI女友声若幽兰，首先明确一下，SillyTavern-1.11.5只是一个前端项目，它没有任何大模型文本生成能力，所以后端必须有一个api服务来流式生成对话文本，这里选择koboldcpp。
GPT SOVITS项目 一分钟克隆 （文字输出）
资深网络工程师
02-16 794
步骤流程：（首先使用UVR 提取人声文件，然后按下面步骤进行）
GPT-SoVITS
01-28
GPT-SoVITS是一个支持跨语言的语音转写系统，它集成了声音伴奏分离、自动训练集分割、中文ASR和文本标注等辅助工具。你可以通过下载项目中的prezip并解压，然后双击go-webui.bat文件来启动GPT-SoVITS的Web界面。通过这个界面，你可以方便地操作GPT-SoVITS进行语音转写任务。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 4
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值