qq_50817166的博客

原创 神经网络基础知识总结

1、神经元细胞的数学模型 神经网络由基本的神经元组成，下图就是神经元的数 学/计算模型，便于我们用程序来实现。 2、神经网络中的三个基本概念 这三大概念是：反向传播，梯度下降，损失函数。 简单总结一下反向传播与梯度下降的基本工作原理： （1）初始化； （2）正向计算； （3）损失函数为我们提供了计算损失的方法； （4）梯度下降是在损失函数基础上向着损失最小的点靠 近而指引了网络权重调整的方向； （5）反向传播把损失值反向传给神经网络的每一层，让 每一层都根据损失值反向调整权重；