深度模型最直观的解释就是多层网络,最简单的深度模型是全连接。深度网络的每个全连接层其实质就是一个逻辑回归模型,每层包括线性函数与激活函数。如图所示:
——全连接细节展示,每一层都是,表示sigmod函数。
——全连接模型
通过多层组合,可以得到如下的解析模型:
对于模型中的隐藏层,其实质工作就是Feature Extraction,因此,隐藏层出现了卷积、小波等。以图像为例,卷积层可以对图像进行不同程度的滤波,使得机器能看到诸如纹理等特征,全连接层再进行特征的变换与组合,最终达到自动提取特征与学习的过程。卷积的滤波特性也行就是卷积神经网络在图像上表现好的原因。