weixin_39982211的博客

原创 softmax函数及交叉熵损失函数求导

1.softmax函数使用softmax函数主要是为了解决多分类问题，在一个分类神经网络中，该函数能够将多个神经元的输出转换到（0,1）之间，可以当概率来理解，这样就可以取其中最大值当做被分到哪一类。假设一组神经元的输出为a[n]a[n]a[n]，那么pip_ipi​就可以表示为：pi=eai∑j=1neajp_{i}=\frac{e^{a_i}}{\sum_{j=1}^{n} e^{a_j...