NLP
文章平均质量分 66
今天学习算法了吗
这个作者很懒,什么都没留下…
展开
-
【NLP】句法信息在机器翻译(machine Translation)的应用
1. 最近有很多的工作都是在NMT任务中,让其考虑句法信息(源句法或者是目标句法)来提升模型的效果。所以接下来我就是稍微对这方面进行一些介绍(可能不是很全哦~可能理解比较片面) 2. 我们可以将其简单分为两类:Encoder侧加入句法,Decoder侧加入句法。 3. Encoder侧加入句法:主要是通过修改模型架构,使模型能够编码源句子的句法信息,使其获得的representation更加准确。例如ON_LSTM, Tree Transformer。...原创 2021-12-24 17:18:23 · 1020 阅读 · 0 评论 -
生成模型之flow-based model
本来想在上一篇博客Blow后面写的,因为他属于是flow-based model,但是我不知道在哪里修改上一篇博客····· 目前主流的生成模型有三大类(我只用过后两类方法···)首先是component by component 生成是序列的,不确定生成的顺序以及比较好使,VAE的训练目标只是优化下界,GAN的训练又很不稳定。所以李宏毅老师介绍了Flow-based model,其是一次生成整个图片,不慢,并且优化目标就是极大似然估计而不是下界,...原创 2021-11-08 21:18:51 · 2038 阅读 · 1 评论 -
NLP之语音转换
1. 先上解决方法以及模型总结图:2. 目前方法主要是针对非并行数据解决。3. 因为解耦的方法在训练以及测试过程中,数据分布是不一样的。所以要加上2nd stage training。(因为没有label,所以要加上dis和classifier)4. cycleGAN与starGAN的区别:即cycleGAN训练好的网络只能实现一种转换。但是starGAN是可以通过输入不同的speaker vector实现任意的转换。其中speaker vector可以跟上面解耦方法一样,从one-..原创 2021-11-08 17:42:42 · 3045 阅读 · 1 评论