机器学习笔记——GAN3

已于 2022-10-27 23:00:42 修改
阅读量423 收藏
点赞数
文章标签： 机器学习 人工智能
于 2022-10-27 17:11:07 首次发布
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45942107/article/details/127543241
版权

机器学习笔记——GAN3

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
如何定义一个通用的PG？（不一定非得是Gaussian）
一个normal distribution经过generator产生的可能是一个很复杂的distribution（PG)
目标是希望PG与Pdata越接近越好：
在这里插入图片描述
Pdata：数据集的分布
PG：generator生成的分布
虽然不知道他们的分布，我们可以从他们中sample:
在这里插入图片描述
用discriminator来train他们两者：与binary classify类似
在这里插入图片描述
Discriminator的训练目标：在Generator fixed前提下，最大化objective value，这等价于最大化object divergence
在这里插入图片描述
为什么两者等价？
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
这个式子表示选取合适的Gnerator使得discrimator的最大值最小
discriminator要最大化divergence，generator要最小化divergence
在这里插入图片描述
在这里插入图片描述
算法：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

实际操作：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
discriminator能作为evaluation function吗？
在这里插入图片描述

fGAN:General Framework of GAN

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Tips for training GAN

在这里插入图片描述
JS divergence的问题
在这里插入图片描述
1.使用LSGAN
2.Wasserstein GAN（WGAN)

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
为什么用WGAN?
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

EBGAN

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

深度学不学习
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
【李宏毅机器学习笔记】6、简单介绍深度学习（Deep Learning）
01-06
【李宏毅机器学习笔记】3、gradient descent 【李宏毅机器学习笔记】4、Classification 【李宏毅机器学习笔记】5、Logistic Regression 【李宏毅机器学习笔记】6、简短介绍Deep Learning 【李宏毅机器学习笔记】7、...
基于机器学习的恶意请求识别（Python代码及数据集）
05-21
这是作者恶意代码分析、网络安全、系统安全等系列教程，主要是通过机器学习、人工智能和深度学习来分析恶意代码的在线笔记。希望对您有所帮助，学无止境，一起加油。参考作者的博客和github资源，由于github速度限制...
好像还挺好玩的GAN3——Keras搭建CGAN给生成结果贴上标签
Bubbliiiing的学习小课堂
12-28 8537
好像还挺好玩的GAN3——Keras搭建CGAN给生成结果贴上标签学习前言什么是CGAN神经网络构建1、Generator2、Discriminator训练思路实现全部代码 学习前言 我又死了我又死了我又死了！ 什么是CGAN CGAN一种带条件约束的GAN，在生成模型（D）和判别模型（G）的建模中均引入条件变量y（conditional variable y）。 使用额外信息y对模型增加条件，...
c++高斯分布函数normal_distribution介绍以及不随机问题解决办法
v俊逸
04-28 4616
官方介绍： 示例代码： // normal_distribution #include <iostream> #include <string> #include <random> int main() { const int nrolls=10000; // number of experiments const int nsta...
概率论中高斯分布(正态分布)介绍及C++11中std::normal_distribution的使用
热门推荐
网络资源是无限的
06-27 3万+
概率论中高斯分布(正态分布)介绍及C++11中std::normal_distribution的使用
【学习笔记】机器学习——GAN
Glass_Gun的博客
12-03 545
提出于2014年。GAN由两个神经网络组成：一个试图生成看起来与训练数据相似数据的，以及一个试图从虚假数据中分辨出真实数据的。生成器和判别器在训练期间相互竞争。对抗训练（训练竞争性网络）是一种重要的机器学习思想。生成器G判别器D。
李宏毅2021机器学习笔记——GAN
Alex_SCY的博客
08-06 1111
GAN_P1 Generation Network as Generator 接下来要进入一个,新的主题 我们要讲生成这件事情 到目前為止大家学到的network,都是一个function,你给他一个X就可以输出一个Y 我们已经学到各式各样的,network架构,可以处理不同的X 不同的Y 我们学到输入的X 如果是一张图片的时候怎麼办 如果是一个sequence的时候怎麼办 我们也学到输出的Y 可以是一个数值 可以是一个类别 也可以是一个sequence 接下来我们要进入一个新的主题,这个新的主题
7月27日深度学习笔记——GAN
Ashen_0nee的博客
07-27 261
本文为7月27日深度学习笔记， 分为三个章节： - Basic Idea of GAN：Generator vs. Disciminator、Can Generator learn by itself——Yes、Can Discriminator generate——Yes； - Conditional Generation by GAN：Conditional GAN； - Unsupervised Conditional Generation：Approach 1：Direct Transformati
李宏毅机器学习笔记——生成模型
weixin_62375715的博客
03-29 507
在这里有个tips值得说一下，图的每个像素一般RGB三色，问题出在当RGB三个值相差不大时最终的结果像素点的颜色趋向灰色，于是乎，为了使生成的图像更加鲜亮，就需要拉高三个值的差距。总而言之，上图其实是有许多个gaussion分布组合而成的，比如有10个，那么能sample就最多有10种情况，但当我们采用映射的方法，z拥有无穷多的可能，时，KL(q(z|x)||P(z|x))值将不断缩小(问为什么？Log(P(x))不会改变，如图所示，我们从寻找P(x|z)变成了寻找P(x|z)与q(z|x)
李宏毅机器学习笔记——Transformer
m0_56659208的博客
04-09 4416
李宏毅机器学习笔记 本章主要是介绍了Transformer(全自注意力网络)： 1. 通过sequence-to-sequence模型中的RNN存在问题——不能并行计算，CNN替换可以解决一部分问题，但也存在缺陷。 2.由CNN缺陷引入了Self-Attention Layer来替代RNN的sequence-to-sequence模型——Transformer。 3.讲解Self-Attention的基本原理与具体过程。 4.讲解了一种叫做“多头”注意力（“multi-headed” attention）的
机器学习笔记——生成式对抗网络GAN
weixin_44929101的博客
06-17 742
前言 今天下午我们一起学习有趣的生成式对抗网络GAN。 GAN介绍 生成对抗网络（Generative Adversarial Networks，GAN）最早由 Ian Goodfellow 在 2014 年提出，是目前深度学习领域最具潜力的研究成果之一。它的核心思想是：同时训练两个相互协作、同时又相互竞争的深度神经网络（一个称为生成器 Generator，另一个称为判别器 Discriminator）来处理无监督学习的相关问题。 通常，我们会用下面这个例子来说明 GAN 的原理：将警察视为判别器，制造假币
pytorch-code-training:pytorch学习笔记
04-07
《PyTorch学习笔记——深度探索与实践》 PyTorch是Facebook的AI研究团队推出的一个开源深度学习框架，以其易用性、灵活性和高效性受到了广大开发者和研究人员的青睐。本篇笔记将深入探讨PyTorch的核心概念、基本...
人工智能与机器学习原理精解【5】
基础数学与应用数学
07-24 1133
下面内容来自文心一言的自动生成特征值分解是一种矩阵分解方法，特别适用于方阵。它能够将一个矩阵分解成特征向量和特征值的线性组合，这在数学、物理、工程及计算机科学等多个领域都有重要应用。以下是对特征值分解的详细说明，包括算法和例子。A=QΛQ−1A = QΛQ^{-1}A=QΛQ−1其中，Q是由A的特征向量构成的矩阵（每列是一个特征向量），Λ是一个对角矩阵，其对角线上的元素是A的特征值。对于实对称矩阵，Q是正交矩阵，即Q的逆等于Q的转置（QTQ^TQT），因此特征值分解可以简化为：A=QΛQTA = QΛQ^T
【机器学习】Jupyter Notebook如何使用之基本步骤和进阶操作
m0_49243785的博客
07-23 739
Jupyter Notebook 是一个交互式计算环境，它允许创建包含代码、文本和可视化内容的文档
2024钉钉杯A题思路详解
最新发布
全栈川川
07-26 1813
2024钉钉杯思路
常见的文心一言的指令
知码客
07-25 1648
文心一言，作为百度研发的预训练语言模型“ERNIE 3.0”的一项功能，能够与人对话互动，回答问题，协助创作，高效便捷地帮助人们获取信息、知识和灵感。
安装TensorRT各自小库版本问题
Ppandaer的博客
07-24 533
降版本：protobuf3.19，onnx 1.12。
全面解析 SnowNLP：中文文本处理、情感分析
有勇气的牛排博客
07-24 718
SnowNLP 是一个专门用于处理中文文本的 Python库。分词情感分析关键词提取文本分类拼音转换繁体转简体词相似度计算等测试环境：Python3.10.9尚未测出该功能text = "有勇气的牛排写的文章通俗易懂，爱了爱了"文本分类使用的是 SnowNLP 的情感分析模型。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值