激活函数总结(一)
总结的激活函数都在目录中有所展示,如果找不到你想查看的激活函数,请去这里寻找:激活函数总结(二)!!!
1 引言
激活函数是神经网络模型重要的组成部分。在神经网络模型中,激活函数提供了非线性建模能力(不带激活函数的感知元是线性的),进而帮助网络学习数据中的复杂模式。
2 常用激活函数介绍
2.1 Sigmoid激活函数
Sigmoid激活函数
将输入值压缩到0到1之间的范围,公式和数学图片分别如下所示:
激活函数是神经网络模型重要的组成部分。在神经网络模型中,激活函数提供了非线性建模能力(不带激活函数的感知元是线性的),进而帮助网络学习数据中的复杂模式。
Sigmoid激活函数
将输入值压缩到0到1之间的范围,公式和数学图片分别如下所示: