VAE新解(下)

12 篇文章 0 订阅

1,框架构建

还记得上篇提到的隐含变量Z吗?这个Z就是决定最终x形态的隐含变量。给定一个图片Xk,我们假定P(Z|Xk)代表这些图片的概率分布,并且服从正态分布。然后我们从中采样(重参数见2),并且通过decoder将图片再恢复出来。
简而言之,就是encoder,对相应的输入数据,通过网络(两个dense层)产生了均值和方差。为了避免var为0(因为引入噪声数据),使模型具有持续的生成能力,VAE 要求每个P(Z|Xk)都向正态分布看齐。
而decoder,则负责对获得的Z解码。
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

2,重参数技巧

在实际应用过程中,z的值是一个随机变量,反向传播中,我们没有办法对z求导。我们通常用reparametrization trick代替randomly sample,即通过引入一个高斯分布e,将z变成一个确定的值,从而使得反向传播可以得以计算。
在这里插入图片描述

3,loss

1,分类损失
2,分布损失

最终loss

 xent_loss = K.sum(K.binary_crossentropy(x, x_decoded_mean), axis=-1)
 kl_loss = - 0.5 * K.sum(1 + z_log_var - K.square(z_mean) - K.exp(z_log_var), axis=-1)
 vae_loss = K.mean(xent_loss + kl_loss)
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值