1 Sigmoid函数的定义
Sigmoid函数是一个在生物学中常见的S型的函数,也称为S形生长曲线。
Sigmoid函数由下列公式定义:
Sigmoid函数的图形如S曲线,如下图所示:
2 Sigmoid函数的性质
sigmoid函数是一个良好的阈值函数,连续,光滑,严格单调;
其导数如下:
,
可以节约计算时间.
3 Sigmoid函数的应用
在信息科学中,由于其单增以及反函数单增等性质,Sigmoid函数常被用作神经网络的阈值函数,将变量映射到0,1之间。
在Neural Network 中,Sigmoid函数也被称为神经元的非线性作用函数.
采用Sigmoid函数,能够抑制两头,使得网络对中间细微变化敏感.因而对特征识别度更好.
另外Sigmid 函数是严格递增函数,能较好平衡线性和非线性之间的行为
参考资料:
http://computing.dcu.ie/~humphrys/Notes/Neural/sigmoid.html
https://en.wikipedia.org/wiki/Sigmoid_function