【机器学习笔记 Day 1】什么是softmax函数?ML为什么要用softmax函数?
Softmax的含义就在于不再唯一的确定某一个最大值,而是为每个输出分类的结果都赋予一个概率值,表示属于每个类别的可能性。二分类双节点输出比单节点输出多了一个P(A|x)+P(-A|x)=1的约束条件,该条件将输出节点的输出值变成一个概率分布,两个节点的输出值。了解原理后可以利用所使用的深度学习框架定义的正向传播和反向传播函数。:指数函数曲线呈现递增趋势,斜率逐渐增大,x轴上较小的变化会导致y轴上很大的变化。梯度下降法中的求梯度,求的是损失函数的梯度。反向传播的越深,学习率的次数就越高。
原创
2024-02-26 21:44:06 ·
293 阅读 ·
0 评论