~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
前向传播
1.线性函数(得分函数)
得分函数中有多个w
2.损失函数
神经网络既能作分类又能作回归,做不同的任务就是损失函数不同而已
损失函数用来衡量当前这组权重的效果
损失越小越好
data_loss :数据在当前损失函数当中得到的损失
正则化惩罚项表示:当前这组模型由于权重参数所带来的损失(和数据没有关系,只考虑权重参数)(防止过拟合)
3.
将分数转化为概率
4.前向传播
回归任务是由得分计算损失
分类任务由概率计算损失
神经网络的目标是更新w
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~