作为一个计算机初学者我最近在学习Tensorflow ,当学习到MNIST时候遇到softmax回归模型,这个知识我之前从来没有接触过,所以查找了很多资料,现在我把它总结出来,有什么不对之处望见谅:
softmax是基于广义线性模型的,而广义线性模型是把自变量的线性预测函数当作因变量的估计值。它是基于指数分布族的,下面这个就是指数分布族的概率分布:
我刚开始看到这个公式有点摸不着头脑,然后又查询了一些资料才深入了解了这个公式的含义,我个人理解这个公式可以看作是一个参照,如果符合这个形式则它就是指数分布族。现在我就举几个例子
1.高斯分布的概率密度函数为:
将它进行一定的转换后得到如下公式:
和指数分布族进行比较可以知道:
因此高斯分布属于指数分布族
2.伯努利分布
伯努利分布的概率密度函数为:
将其进行一定的公式变换以后得到如下公式:
同理和指数分布族进行比较可以得到:
因此伯努利分布也属于指数分布族
我这里只是举了两个例子,还有很多就不一一列举了