输出层的几种激活函数

  1.恒等函数：按照原样进行输出，对输出的信息不加以任何的改动

   2.softmax激活函数 ：适用于多分类问题，输出属于各个分类的概率 （因为输出层softmax全部相加=1，正是因为这个原因，把softmax解释为概率）

  3.sigmoid激活函数：适用于二分类，单个输出为0到1间的概率，所以他看的并不是输出的整体。

关于2，3的理解：

  

输出(0, 1)代表“是”，输出(1, 0)代表“否”

Softmax可能输出(0.3, 0.7)，代表算法认为“是”的概率是0.7，“否”的概率是0.3，相加为1，整体性的来看

Sigmoid的输出可能是(0.4, 0.8)，它们相加不为1，解释来说就是Sigmoid认为输出第一位为1的概率是0.4，第一位不为1的概率是0.6（1-p），第二位为1的概率是0.8，第二位不为1的概率是0.2。单个来看