神经网络多分类中为什么用softmax函数归一化而不用其它归一化方法

直观的解释是为了平衡概率分布，同时避免出现概率为0的情况（使得模型可以不用再做平滑化处理）。
从反向传播的角度推导一波：
softmax函数的形式为：
$$P(y=i)=\frac{e^{W_{i}X}}{{\sum }_{j=1}^N{e}^{W_{j}X}}$$目标函数为：
$$L=-\sum _k{t}_k\log P(y=k)$$（$t_k$表示目标类为1，其他类为0）

令$V_i=W_{i}X$，则：
$$\begin{array}{rl}\frac{\partial L}{\partial V_i}& =-t_k\frac{1}{P(y=k)}\cdot \frac{\partial P(y=k)}{\partial V_i}\\ & =-t_k\frac{1}{P(y=k)}\cdot \frac{e^{W_{i}X}\cdot {\sum }_{j=1}^N{e}^{W_{j}X}-e^{W_{i}X}\cdot e^{W_{i}X}}{{\left({\sum }_{j=1}^N{e}^{W_{j}X}\right)}^2}\\ & =-t_k\frac{1}{P(y=k)}\cdot \left[P(y=k)-(P(y=k){)}^2\right]\\ & =-t_k\ast (1-P(y=k))\end{array}$$
由上式第一个等式可以知道，当我们使用一般的归一化方法时（如min_max归一化），当$P(y=k)$很小时，梯度将变得很大（梯度爆炸），而softmax函数把它约去了，因此不会出现这个问题。

参考：多类分类下为什么用softmax而不是用其他归一化方法?
如何理解softmax（柔性最大），为什么不用别的归一化的函数？