积水成渊之softmax函数
积水成渊之softmax函数公式解释
公式
softmax函数将任意Xi的值映射到一个概率分布(就是一个概率值,在0到1之间)
解释
"max" 的由来:
此函数会放大数值Xi的概率,如果Xi原本就比较大
"soft" 的由来:
此函数仍会给较小数值Xi分配一个概率,而不会为0
"Xi":Xi为当前遍历到的数值
"Xj":j从1到n,Xj为所有的数值
"exp()":取幂,这样就不会有负值
"∑exp()":归一化,这样才能是所有的概率都分布在(0,1]之间且总和为1
...
原创
2021-04-09 13:15:22 ·
258 阅读 ·
0 评论