一、介绍
也叫前馈人工神经网络(ANN),目前流行的三种深度神经网络:MLP、卷积神经网络、循环神经网络。
1.基本原理--生物学启发
生物神经元通过与树突的突触接触接收多个信号,并通过轴突发送单一的动作电位流。受这种输入输出方式的启发,人工神经网络模型由组合多个输入和单一的输出单元组成。
处于抑制状态的神经元,接受来自其他神经元传来的兴奋电位,如果输入超过某个阈值,神经元就会被激发,进入兴奋状态,由轴突输出,传递给其他神经元。
2.单层感知机原理
神经元具备多个权值参数w和一个激活函数f(x)和偏置b,输出值y满足公式如上图。
单个神经元结构通过一组数据来学习其中的参数w和b来进行拟合输出结果y,通过计算误差,不断对w和b调整,从而起到学习效果。
3.多层感知机原理
3.1 多层感知机网络结构
多层感知机是在单层神经网络基础上,引入一到多个隐层。输入层不涉及计算,多层感知机的层数为隐层和输出层的个数之和。隐层中的神经元和输入层中各个输入全连接,输出层与隐层中各个神经元也是完全连接。因此,多层感知机中隐层和输出层都是全连接层。
多层感知机网络结构如下图所示:
MLP模型是最基本的深度神经网络,以模拟人类大脑的功能为目标,并基于一个简单的人工神经元:输入信号的加权和的非线性函数,这些伪神经元被聚合成层,一层的输出成为序列中下一层的输入。