Neural Text to Speech Synthesis

作者:tanxu
会议:IJCAI 2020
单位:微软

acoustic model

AR & LSTM model

Tacotron(location sensitive attention)

在这里插入图片描述

DurIAN
  • 单独的duration model,时长显示可控
    在这里插入图片描述

NAR & CNN/Transformer model

DeepVoice 3
  • 全CNN结构,推理加速,支持不同的声学特征输出(vocoder: world, GL, WaveNet),支持multi-speaker(2000人,小数据量)在这里插入图片描述
TransformerTTS
  • 和tacotron结构类似,将encoder&decoder中的lstm替换为transformer;并行化训练,且质量与tacotron2相当;因为并行化计算,attention的鲁棒性不足(??)
    在这里插入图片描述
Fastspeech2

在这里插入图片描述
在这里插入图片描述

在这里插入图片描述

  • fastspeech是基于teacher-student方法训练,知识蒸馏过程中有信息损失;
  • fastspeech2为了解决一对多的问题,加入额外的条件输入(duration,pitch,energy),训练阶段这些特征直接从target中提取,infer阶段是predictor预测的(predictor和FastSpeech2模型一起训练);
VITS

在这里插入图片描述

  • FLOW-based, end2end

vocoder

在这里插入图片描述

LPCNet

  • AR model,BFCC,~20M

HiFiGan

  • NAR model,mel, ~54M

PWG

Advanced topics in TTS

在这里插入图片描述

expressive

在这里插入图片描述

Synthesize clean speech for noisy speakers
  • denoise speech用于TTS训练
  • noisy or clean embedding作为ref,noisy speech输入的时候搭配clean emb,句子级别的;
  • noisy condition module:实际上是noisy extractor + noise encoder,逐帧编码噪声信息,制造paired noisy speech
adaptive for everyone
  • basemodel的泛化性要足够强,因为target speaker的风格可能有异于基础数据库,这样性能就会明显下降;
  • 少量数据的情况下,只finetune部分相关参数;(拆分成phn encoder, speaker encoder等多个部分,只更新speaker encoder)
  • AdaSpeech 2:少量说话人数据
  • AdaSpeech 3:朗读风格到自由风格
    在这里插入图片描述

expressive TTS

cycle consistency/ feedback for control

[195] 控制情感风格
Controllable Emotion Transfer For End-to-End Speech Synthesis

在这里插入图片描述

[202] 非平行数据的TTS情感控制
Improving Unsupervised Style Transfer in end-to-end Speech Synthesis with end-to-end Speech

  • motivation:之前TTS的ref-encoder 通常train的时候和文本是对应一句话,但是在infer的时候不是一句话;为了解决这个问题,我们在训练的时候也不用一句话,然后额外添加一个ASR系统控制合成的文本。
    在这里插入图片描述
semi-supervised learning for control

[103] 半监督的方法实现小数据量控制TTS风格
Semi-Supervised Generative Modeling for Controllable Speech Synthesis

  • motivation: 传统TTS风格控制的方法需要大量的数据控制比如情感、语速这样隐式的特征;通过加入supervised embedding,实现控制。
  • 实验以语速和基频作为目标,语速给一个标准,然后计算;基频计算mean/var,然后高斯重采样;
    在这里插入图片描述
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值