一、神经网络是什么?
1、神经网络是一种计算模型,由大量的节点(神经元)直接相互关联所构成的;
2、除输入节点以外,每个节点代表一种特定的输入函数(一种运算),称为激励函数;
3、每两个节点的连接都代表该信号在传输中所占的比重,称为权重;
4、网络的输出由于激励函数和权重的不同而不同,是对于某种函数的逼近或是对映射关系的近似描述;
5、在部分的网络中存在偏置项,即对于权重求和结果的修正,数学公式表现为:
二、神经网络的分类
三、神经网络做什么?
1、感知机
网络结构图:
其中,为网络输出函数,
为激活函数。
网络的最终输出为:
感知器可以实现最基本的模式分类问题;
2、两层神经网络
其中,g函数为激活函数,为sigmoid函数;
网络训练过程:
a.初始化权重,通过前向传播,计算网络的输出;
b.使用代价函数衡量当前的预测与真实值的误差;
c.使用梯度下降,将误差反向传播(链式法则),修改网络权值;
d.循环,直到网络误差达到目标要求停止,应用训练好的模型对测试样本训练;
3、多层神经网络(深度学习)
在两层神经网络的基础上,增加隐层的数量,从而提升网络的深度,加强网络预测的能力;
在多层神经网络中,采用Relu函数作为其激活函数;