文章目录
1. 生成对抗网络(GAN)基础
1.1 生成对抗网络
- 本质:图片生成器
- 组成:
- D,判别网络 G,生成网络, Loss,判别是真实模型的概率:是/否真值
1.2 数学原理
- 初始状态:生成数据同真实数据差距明显,容易判别
- 训练过程:对是否真实判断得到的loss引导生成模型更新,差距减少
- 最终状态:生成数据同真实数据相似,无法识别
假设前提:判别模型D,生成模型G具有学习能力,能够收敛
1.3 简单模型
- G:relu+sigmiod nn D:maxout
1.4 生成对抗网络总结(优缺点)
- 优点:
- 不需要大量label数据,loss来源D判定
- 产生大量生成数据用于训练,接近无监督学习
- 可以与深度神经网络结合
- 缺点
- 数据直接生成,没有推导过程
- 生成器,判别器需要配合共同训练难度较大
- 容易出现训练失败
2. 深度GAN-DCGAN
2.1 DCGAN(Deep Convolutional GAN)
- 卷积神经网络 + GAN
- 变化:生成器G,判别器D (cony feat > 1)
- DCGAN结构细节
- 没有pooling,stride conv/deconv
- 运用batchnorm
- 不要FC
- 非线性激励ReLU(G),LeakyReLU(D)
2.2 DCGAN模型研究
- D用作特征提取工具
- 用ImageNet数据训练D,G,高效特征表达
- 特征分析:改变部分噪声参数值
2.3 特征研究
- 向量运算
- 噪声输入运算,生成不同图片
2.4 DCGAN总结
- GAN同深度CNN网络结合
- 噪声输入有着重要作用,可以实现有意义运算
- 对输入信号实际意义可以有更深研究,定性输出有可能
3. 条件GAN
3.1 cGAN
- 用一些信息对GAN的生成图片进行范围约束信息的类型:文字 图片
- 训练过程输入:随机信息+约束信息特征
3.2 约束- 文字约束
- 文字+位置约束 key points condition
3.3 约束条件是图片 - 生成相关图片
- 应用 图片分割,轮廓生成 热图生成 图片补全 高精度生成
- D: patchGAN
- 图片整体优化会造成
4. InfoGAN
- DCGAN中,随机参数Z的值有一定实际意义,如果有test label
反池化,反卷积结构(deconv)
4.1 infoGAN模型结构
- Z分为两部分,c和z
- c代表数据分布某种物理意义,z随机信号