激活函数模拟的是输入输出之间即隐藏层的非线性问题。 如果没有激活函数,还是很多矩阵相乘,还是线性的。 隐藏层相对于sigmoid来说,常用Rectified Linear Unit(ReLU) 参考:分析sigmoid和ReLU