1.1、什么是神经网络

一、神经网络是什么？

1、神经网络是一种计算模型，由大量的节点（神经元）直接相互关联所构成的；

2、除输入节点以外，每个节点代表一种特定的输入函数（一种运算），称为激励函数；

3、每两个节点的连接都代表该信号在传输中所占的比重，称为权重；

4、网络的输出由于激励函数和权重的不同而不同，是对于某种函数的逼近或是对映射关系的近似描述；

5、在部分的网络中存在偏置项，即对于权重求和结果的修正，数学公式表现为：

 二、神经网络的分类

 

 三、神经网络做什么？

1、感知机

网络结构图：

其中，为网络输出函数，为激活函数。

网络的最终输出为：

感知器可以实现最基本的模式分类问题；

2、两层神经网络

 

其中，g函数为激活函数，为sigmoid函数；

网络训练过程：

a.初始化权重，通过前向传播，计算网络的输出；

b.使用代价函数衡量当前的预测与真实值的误差；

c.使用梯度下降，将误差反向传播(链式法则)，修改网络权值；

d.循环，直到网络误差达到目标要求停止，应用训练好的模型对测试样本训练；

3、多层神经网络（深度学习）

在两层神经网络的基础上，增加隐层的数量，从而提升网络的深度，加强网络预测的能力；

在多层神经网络中，采用Relu函数作为其激活函数；