Sigmoid函数介绍

因为在神经网络数据练习中sigmoid经常用作二分类，我就当做笔记在这里记录一下sigmod函数。
前提：Sigmoid函数是一个在生物学中常见的S型函数，也称为S型生长曲线。
在信息科学中，由于其单增以及反函数单增等性质，Sigmoid函数常被用作神经网络的激活函数，将变量映射到0,1之间。

简介

sigmoid函数也叫Logistic函数，用于隐层神经元输出，取值范围为(0,1)，它可以将一个实数映射到(0,1)的区间，可以用来做二分类。在特征相差比较复杂或是相差不是特别大时效果比较好。Sigmoid作为激活函数有以下优缺点：

1. 优点：平滑、易于求导
2. 缺点：激活函数计算量大，反向传播求误差梯度时，求导涉及除法；反向传播时，很容易就会出现梯度消失的情况，从而无法完成深层网络的训练。

Sigmoid函数由下列公式定义

其对x的导数可以用自身表示：

Sigmoid函数的图形如S曲线