colab训练VITS语音模型

打开colab

https://colab.research.google.com/drive/1pn1xnFfdLK63gVXDwV4zCXfVeo8c-I-0?usp=sharing#scrollTo=-XEdEXyTHVfD
谷歌的colab平台,借用免费的云平台和gpu算力。借助VITS对已有语音数据进行训练,生成对应音色风格的语音。

准备文件 默认建议

1…zip文件打包的,按角色名排列的短音频,该压缩文件结构应如下所示:

Your-zip-file.zip
├───Character_name_1
├ ├───xxx.wav
├ ├───…
├ ├───yyy.mp3
├ └───zzz.wav
├───Character_name_2
├ ├───xxx.wav
├ ├───…
├ ├───yyy.mp3
├ └───zzz.wav
├───…

└───Character_name_n
├───xxx.wav
├───…
├───yyy.mp3
└───zzz.wav
注意音频的格式和名称都不重要,只要它们是音频文件。
质量要求:2秒以上,10秒以内,尽量不要有背景噪音。
数量要求:一个角色至少10条,最好每个角色20条以上。

注:压缩为zip,压缩时,选中所有文件压缩,而不是对文件夹压缩

Step 0

运行查看GPU配置。本笔记本必须在GPU模式下运行,可以运行上方的nvidia-smi查看GPU是否装载。若没有,点击左上角>修改>笔记本设置,把硬件加速改成GPU。

step 1

运行安装环境

step 1.5

选择预选训练模型,默认CJ

加载谷歌云盘,登录授权。

打开谷歌云盘网页,上传压缩包
此时回到colab,在窗口左侧打开文件夹,此处就可以看见自己的云盘文件夹,找到上传的压缩包,选中复制其路径。

step 2.1 上传音频

展开,选择第二个单元格,在其右侧粘贴路径信息。压缩包路径信息:在左侧的文件夹中找到压缩包,右击,复制路径。
如果你是训练单个角色,在custom_character_voice后面加一个speak_names比如:custom_character_voice/hutao
而后,点击运行,此时可以看到解压抽取音频文件

step3

自动处理所有上传的数据-运行
会将每一条语音识别为文字

STEP 3.5

单个角色的话,运行

step 4

左侧创建输出文件夹,而后复制这个文件夹的路径
复制路径替换代码中的两处 ./OUTPUT_MODEL。
设置epochs,40基本就成型了
运行,等待

下载配置文件

在云盘对应的输出文件夹,下载G_latest.pth和.json文件。
再打开 https://github.com/Plachtaa/VITS-fast-fine-tuning/releases/tag/webui-v1.1,下载inference.rar,解压,粘贴替换G_latest.pth和.json文件,将.json文件重命名为finetune_speaker.json
运行文件夹里面的inference.exe
即可完成

  • 1
    点赞
  • 4
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Colab Whisper模型是一种先进的语音转文字模型,它基于语音识别技术,利用深度学习算法将语音信号转换为文本。 Colab Whisper模型的实现步骤如下: 1. 准备数据:首先,需要准备用于训练模型语音数据集。这些语音数据应该包含不同人的不同语音片段,涵盖不同的语言和口音。 2. 数据预处理:接下来,需要对语音数据进行预处理。这包括对语音信号进行采样和分割,去除噪音和不必要的部分,并将其转换为模型可处理的格式,例如MFCC特征。 3. 构建模型:使用深度学习框架,如TensorFlow或PyTorch,构建Colab Whisper模型。该模型通常由多个卷积神经网络和循环神经网络层组成,用于提取语音信号的特征并进行序列建模。 4. 训练模型:使用准备好的语音数据集,通过反向传播算法和训练集的迭代,对模型进行训练。在每个迭代步骤中,模型会根据预测输出与实际标签之间的差异调整自身的权重和参数,以提高预测准确性。 5. 模型评估和优化:在每个训练周期结束后,使用验证集和测试集对模型进行评估。评估指标可以包括词错误率(WER)和字符错误率(CER)。通过这些指标,可以确定模型的性能,并对其进行改进。 6. 部署和应用:一旦模型训练完成并通过评估,就可以将其部署到实际应用中。通过输入语音信号,模型将对其进行转换,并输出相应的文本结果。 总之,Colab Whisper模型通过深度学习算法实现了从语音到文本的转换。通过准备数据、进行数据预处理、构建模型训练模型、评估和优化以及部署应用等步骤,可以实现一个高效准确的语音转文字系统。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

frozendure

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值