全连接神经网络
宏观上来讲,基本的权利建设网络分为输入计算和输出三个部分,其中输入和输出均为矩阵,计算过程为矩阵的计算,通过神经网络内部的参数将输入的矩阵转换为输出的矩阵,当神经网络刚创建时,内部的参数是随机的,从而产生的输出也是随机的。
通过神经网络可以实现两大目的,预测和聚类预测是通过输入得到连续的结果,车磊是通过输入得到离散的结果,传统神经网络算法一般是通过有监督的学习,也就是通过给定的输入输出来训练神经网络参数,从而当参数趋于稳定后,可以对一定的输入得到一定的输出。
我们将训练参数的过程称为训练,将训练参数使用的方法称为优化器,有不同优化算法的选择,其中最基础的是反向传播算法,通过计算出神经网络正向计算过程中每一点每一个计算节点对应于最后计算误差所占的比值。
其中最基础的是反向传播算法反向传播算法,利用损失函数计算出每一个计算节点的损失,从而优化一次参数损失的函数的计算,是将训练过程中得到的输出与期望的输出进行比较,从而得到损失,再通过反向传播算法,也就是为了求出计算过程中每个节点对损失所产生的权重,通过偏导数的方法计算出每一个群点群每一个节点对应的损失值,再将该点的参数减去这个损失值可以得到优化后该