百面机器学习总结笔记(第十三章 生成对抗网络)

百面机器学习总结笔记

第十三章 生成对抗网络

在这里插入图片描述

初识GANS的秘密

场景描述
在这里插入图片描述
知识点
MiniMax游戏 值函数(Value Function)JS距离(Jensen-Shannon Divergence), 概率生成模型 优化饱和

问题1 简述GAN的基本思想和训练过程
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GANs值函数在这里插入图片描述

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

GANs如何避开大量概率推断计算

在这里插入图片描述
分析与解答
在这里插入图片描述
问题4 GANs在实际训练中会遇到什么问题?

在这里插入图片描述

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

WGAN:抓住低维的幽灵

场景描述
在这里插入图片描述
在这里插入图片描述
知识点
坍缩模式(Collapse Mode) Wasserstein距离 1-Lipschitz函数

问题1 GANs的陷阱:原GANs中存在的哪些问题制约模型训练效果?
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

问题2 破解武器:WGAN针对前面问题做了哪些改进?什么是Wasserstein距离?

分析与解答
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

问题3 WGAN之道:怎样具体应用Wasserstein距离实现WGAN算法?

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

DCGAN:当GANs遇上卷积

场景描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

问题 在生成器和判别器中应该怎样设计深层卷积结构?
在这里插入图片描述

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

ALI :包揽推断任务

场景描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

知识点
概率推断 隐空间 Encoder/Decoder
问题 生成网络和推断网络的融合
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

IRGAN:生成离散样本

场景描述

在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
知识点
离散样本 信息检索 负样本 策略梯度

问题 使用GAN产生负样本

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

SeqGAN:生成文本序列

场景描述
在这里插入图片描述
知识点
循环神经网络 LSTM/GRU 语言模型 奖励/长期奖励 策略梯度 动作值函数
问题1 如何构建生成器,生成文字组成的序列来表示句子?

分析与解答
在这里插入图片描述
在这里插入图片描述

问题2 训练序列生成器的优化目标通常是什么?GANs框架下有何不同?

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
问题3 有了生成器的优化目标,怎样求解它对生成器参数的梯度?

分析与解答
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值