- 博客(4)
- 收藏
- 关注
原创 softmax回归的简洁实现
什么是softmax?社会科学家Duncan Luce 于1959年在选择模型理论基础上发明的softmax函数正是这样做的:softmax函数能够将未规范化的预测变换为非负数并且总和为1,同时让模型保持可导性,为了实现这一目标,我们首先对每个未规范化的预测求幂,这样可以确保输出为非负数。为了确保最终输出的概率值总和为1,我们再让每个求幂后的结果除以结果的总和,如下式:这里,对于所有的j总有0⩽yˆ⩽1。因此yˆ可以视为一个正确的概率分布。
2023-11-06 15:32:34 36
原创 深度学习-学习笔记3
为了更好的解释微分(倒数),我们做一个实验,定义一个u=f(x) = 3x。-4x 及其在x=1处的切线(y=6x-4),切线的斜率为2。绘制函数u=f(x) = 3x。通过令x=并让h趋近于0,f。
2023-10-30 10:38:10 3867
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人