sigmoid函数的数学公式推导
什么事情,都要做到知其然,知其所以然~
sigmoid函数的值域∈(0,1),这与概率值的范围[0,1]很是巧合,我们可以把sigmoid函数与一个概率分布联系起来,那就是伯努利分布。
伯努利分布的概率质量函数为:
可以知道x=1时的概率为p,x=0时的概率为1-p,即f(1|p) = p,f(0|p) = 1-p。
证明伯努利分布也属于指数分布族
为了推导sigmoid函数,需要先证明伯努利分布也属于指数分布族。
证明伯努利分布属于指数分布族:
sigmoid函数的数学公式推导