神经网络学习笔记2Mnemonic Descent Method

最新推荐文章于 2021-11-01 15:11:26 发布

Alice_Rabbit

最新推荐文章于 2021-11-01 15:11:26 发布

阅读量476

点赞数

本文链接：https://blog.csdn.net/Antonio_Salieri/article/details/104095632

版权

本文探讨了2016年CVPR论文中提出的Mnemonic Descent Method（MDM），它通过记忆单元保留所有历史输入信息，用于端到端的人脸对齐。MDM的特点是结合各级全连接层的结果，允许所有层级一起训练，避免梯度下降信息的丢失。此外，还介绍了类似方法Cascaded Convolutional Networks，其通过多层网络逐步精确定位面部特征，逐级缩小输入区域并限制最后层级的预测变化。

摘要由CSDN通过智能技术生成

这篇主要基于2016年CVPR的一篇论文：Mnemonic Descent Method-A?? Recurrent Process Applied for End-To-End Face Alignment_CVPR_2016_paper来讲。这篇论文中采用了一种Mnemonic Descent Method，MDM保持了记忆单元来对所有过去输入空间地信息。论文中介绍的方法有如下特点：输入图像，给定初始值x0，选取特征在这里插入图片描述点局部块，然后输入到卷积网络中提取特征，fc是卷积的特征结果，然后fr是全连接层。其最大的特点，是把每一级的第一层全连接层的结果h,和下一级的卷积层结果fc结合起来输入到下一级的全连接层，意思是不损失上一级梯度下降的信息，同时，所有的级可以一起训练了，而不必分开训练了
在这里插入图片描述
在用一篇差不多内容的论文来讲一下：
Cascaded convolutional networks 网络结构可以看到，在第一层，有三个Deep CNN：F1, EN1,和 N- M1&