没有最好的激活函数,只有场景最适合的函数。
Sigmoid、tanh函数,适用于二分类输出层;模型隐藏层;
Relu、Leaky Relu函数,适用于回归任务输出层,卷积神经网络隐藏层。
Softmax函数,适合于多分类任务的输出层;
学习链接:https://blog.csdn.net/dfly_zx/article/details/104493048
没有最好的激活函数,只有场景最适合的函数。
Sigmoid、tanh函数,适用于二分类输出层;模型隐藏层;
Relu、Leaky Relu函数,适用于回归任务输出层,卷积神经网络隐藏层。
Softmax函数,适合于多分类任务的输出层;
学习链接:https://blog.csdn.net/dfly_zx/article/details/104493048