秒懂Softmax归一化

在多分类问题中，通常会使用softmax函数作为网络输出层的激活函数，softmax函数可以对输出值进行归一化操作，把所有输出值都转化为概率（0~1之间），所有概率值加起来等于1，softmax的公式为（啥? 公式? 看不懂?  没关系！看例子！）∶

又或这个东西

还是来看Demo吧！

例如：某个神经网络有3个输出值，为[1,5,3]。

在数学中有个数叫e（数学中一个常数，是一个无限不循环小数，且为超越数，其值约为2.718281828459045）

先计算出e^1（e的1次方），e^5，e^3和它们的和的数值来，e^1=2.718、e^5=148.413，e^3=20.086、e^1+e^5+e^3=171.217

那么1所对应的概率就是

然后5的概率

3的概率

0.016+0.867+0.117=1

就是这么算的！

再来一个Demo：

应该明白了趴！！