常见激励函数
对于两三层的神经网络,激励函数在选择时可多种尝试
卷积神经网络的卷积层:可使用relu激励函数;在循环神经网络中,使用relu/tanh
对于多层神经网络,激励函数选择时需注意,不然易造成梯度消失、梯度爆炸
(theano)激励函数介绍网址:
http://deeplearning.net/software/theano/library/tensor/nnet/nnet.html
常见激励函数
对于两三层的神经网络,激励函数在选择时可多种尝试
卷积神经网络的卷积层:可使用relu激励函数;在循环神经网络中,使用relu/tanh
对于多层神经网络,激励函数选择时需注意,不然易造成梯度消失、梯度爆炸
(theano)激励函数介绍网址:
http://deeplearning.net/software/theano/library/tensor/nnet/nnet.html