指数族和几何分布

指数族和几何分布

关于指数族和广义线性模型的相关知识，详情请点击。

以 为参数的指数分布为：


（1） 证明指数分布是指数族分布。


于是，


（2）使用具有几何反应变量的广义线性模型，执行回归，可得

典型反应函数为：

（3）给定一组训练集 ，令一个样本的log似然性为 ， 下面我们求解随机梯度上升的更新规则。先写出
，
关于 求导，得到




所以梯度上升更新规则为
。