- 博客(1)
- 收藏
- 关注
原创 1.为什么必须在神经网络中引入非线性?
答:如果不用激活函数(其实相当于激活函数是f(x) = x),在这种情况下你每一层输出都是上层输入的线性函数,很容易验证,无论你神经网络有多少层,输出都是输入的线性组合,与没有隐藏层效果相当,这种情况就是最原始的感知机(Perceptron)了。 正因为上面的原因,我们决定引入非线性函数作为激活函数,这样深层神经网络就有意义了(不再是输入的线性组合,可以逼近任意函数)。最早的想法是sigmoid函数或者tanh函数,输出有界,很容易充当下一层输入。 否则,我们将获得一个由多个线...
2020-08-11 18:52:15 2381
空空如也
空空如也
TA创建的收藏夹 TA关注的收藏夹
TA关注的人