DiffGAN-TTS论文及代码运行笔记

文章探讨了扩散模型在当前深度学习中的热门地位,超越了以往的GAN。作者介绍了一种将扩散模型与GAN思想结合的方法,并应用于语音领域。在实现过程中,文章提到了使用LJSpeech数据集,以及在训练和预处理阶段可能遇到的错误和解决办法,如调整库版本、处理局部变量错误和调整batchsize等。经过约200k次训练,模型可得到良好结果。
摘要由CSDN通过智能技术生成

目前在深度学习中生成模型最火的莫非就是扩散模型(Diffusion),其风头更是盖过了前几年最火的GAN,那么两者的结合则是很容易想到的一个创新点,在图像领域首先被提出,这不语音就拿来直接用了,扩散模型融合了GAN的思想,同时采用浅扩散机制加速,直接来看一下架构。
在这里插入图片描述

论文:https://arxiv.org/pdf/2201.11972.pdf
代码:https://github.com/keonlee9420/DiffGAN-TTS

代码bug很多,踩坑记录

环境:torch 1.12 数据集:LJSpeech

1 首先在request安装包时,numba版本为0.56,librosa版本为0.80以上,否则会报错

2 在config中配置数据集所在路径

3 以参数–dataset LJSpeech运行 prepare_alien.py

4 以参数 --dataset LJSpeech 运行 preprocess.py 预处理文件,这里大概率会有个报错:

nboundLocalError: local variable ‘f0’ referenced before assignment,但有的环境没这个报错,

重新跑一遍prepare_alien,若还没用直接下载作者提供数据集的TextGrid就好了

5 以参数 --model naive --dataset LJSpeech 就可以开始训练了,这里model分为两种训练模式,

详细说明在代码的readme中有。大概200k次训练后就有一个好的结果了,在训练时同样会有个报错:

AttributeError: ‘GaussianDiffusion’ object has no attribute ‘cond’

在原始的batchsize下两种训练模式都遇到了,问题代码出在validation的阶段,一个简单的办法就是直接

跳过该阶段,但调小batchsize后竟然没遇到这个报错。

这里拿笔记本简单跑了一下结果:

在这里插入图片描述

在这里插入图片描述

  • 10
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值