目录
我们常常用深度学习这个术语来指训练神经网络的过程,它指的是特别大规模的神经网络训练。
神经网络
一种模仿生物神经网络结构功能的非线性统计数据建模工具
建模输入和输出间复杂的关系,主要用途是作为分类、回归器
激活函数
神经网络中的每个神经元节点接受上一层神经元的输出值作为本神经元的输入值,并将输入值传递给下一层,输入层神经元节点会将输入属性值直接传递给下一层(隐层或输出层)。在多层神经网络中,上层节点的输出和下层节点的输入之间具有一个函数关系,这个函数称为激活函数(又称激励函数)。
损失函数
损失函数是为了度量神经网络的预测结果和真实结果还差多远。
平方差损失
交叉熵损失
反向传播
前向传播:给定输入,预测结果
反向传播:给模型参数反馈预测结果和真实结果的差距,并指导参数做出调整