深度学习(三十四)对抗自编码网络-未完待续

占坑,未完待续……

上面是网络结构。上半部分是一个自编码结构,给定输入数据X,我们经过编码层,可以得到编码层的数据分布q(z|x)的一个采样潜变量编码z。在以前我们的自编码分布q(z|x)是固定的,现在我们即将用对抗网络,对这个分布做一个先验约束。

对于解码层的目标是对编码向量z做出重构,得到输出样本x’的分布函数q(x’|z)的一个采样样本x’。重构损失函数确保了编码过程原始数据不会丢失过多,然而它却没有对特征z做出约束,z的分布函数如下:

我们现在的目标是希望对q(z)做出约束,使得它与分布p(z)相互匹配。比如我们希望z的每个特征相互独立并且符合高斯分布(ICAPCA)。甚至我们希望这个潜在的表征z与我们的分类任务标签有个相互映射关系。

评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值