神经网络的训练
神经网络可以理解为一个输入X到输出Y的映射函数,f(X)=Y,其中这个映射f就是我们所要训练的网络参数W,我们只要训练出来了参数W,那么对于任何输入x,我们就能得到一个与之对应的输出y。只要f不同,那么同一个x就会产生不同的y,我们当然是想要获得最符合真实数据的y了,那么我们就要训练出一个最符合真实数据的映射f,那么训练最符合真实数据f的过程就是神经网络的训练过程,神经网络的训练可以分为两个步骤:一个是前向传播,另外一个是反向传播。
神经网络的前向传播
前向传播就是从输入层开始(Layer1),经过一层层的Layer,不断计算每一层的z和a,最后得到输出y^的过程。
我们可以将神经网络分解为许多个神经元,每个神经元接收上一层的输入进行简单的逻辑回归操作,全部神经元从输入层开始到输出层依次进行逻辑回归的过程我们可以简单的理解为神经网络的前向传播。
前向传播是从神经网络的输入层开始,逐渐往输出层进行前向传播,上一层的神经