关于softmax函数需要知道的
Softmax函数实现了对分类向量的归一化,但是区别于一般的按比例归一化,它通过对数变换来进行归一化,实现了让较大的值在归一化的过程中收益更多,达到了提高结果分辨率,提升学习效率的目的。
同一般的直接在向量中取最大值的max函数相比较,softmax更充分考虑到了概率分布所代表的意义,其计算公式为:
softmax(x
Softmax函数实现了对分类向量的归一化,但是区别于一般的按比例归一化,它通过对数变换来进行归一化,实现了让较大的值在归一化的过程中收益更多,达到了提高结果分辨率,提升学习效率的目的。
同一般的直接在向量中取最大值的max函数相比较,softmax更充分考虑到了概率分布所代表的意义,其计算公式为:
softmax(x