一、神经元的拟合原理
一个神经元由以下几个关键知识点组成:激活函数;损失函数;梯度下降。
单个神经元网络模型:
其计算公式:
模型每次的学习都是为了调整w和b,从而得到一个合适的值,最终由这个值配合运算公式所形成的逻辑就是神经网络的模型。我们把w和b赋予合适的值时,再配合合适的激活函数,就会发现它可以产生很好的拟合效果。
1、正向传播:数据从输入到输出的流向传递过程为正向传播。它是在一个假设由合适的w和b的基础上,才可以实现对现实环境的正确拟合。但是在实际过程中,我们无法得知w和b的值具体是多少才算是正常的。于是加入了一个训练过程,通过反向误差传递的方法让模型自动来修正,最终产生一个合适的权重。
2、反向传播:反向传播的意义–告诉模型我们需要将w和b调整到多少。在刚开始没有得到合适的权重时,正向传播生成的结果与实际的标签是有误差的,反向传播就是要把这个误差传递给权重&