weixin_46970776的博客

原创 对contractive auto-encoder的简单理解

这里写自定义目录标题关于contractive的原理 关于contractive的原理 可以参照文献"Contractive Auto-Encoders: Explicit Invariance During Feature Extraction“进行原理理解。总结了一下我看到的比较好的解释：contractive auto-encoder其实就是在损失函数上进行了创新。损失函数由两部分组成，第一部分是MSE，用于尽力捕获输入数据的很多信息；第二部分是作者新提出的惩罚项，最小化雅克比矩阵的Frobenius