一、广义线性模型
广义线性模型应满足三个假设:
第一个假设为给定X和参数theta,Y的分布服从某一指数函数族的分布。
第二个假设为给定了X,目标是输出 X条件下T(y)的均值,这个T(y)一般等于y,也有不等的情况,
第三个假设是对假设一种的变量eta做出定义。
二、指数函数族
前面提到了指数函数族,这里给出定义,满足以下形式的函数构成了指数函数族:
其中a,b,T都是函数。
三、Logistic 函数的导出
Logistic回归假设P(y|x)满足伯努利Bernouli分布即
我们的目标是在给定X的情况下,能对参数phi进行建模,进而得到phi关于X的模型,怎么选择这个模型是一个问题,现在我们把满足努伯利分布的后验概率转化成指数函数族的形式,进而得出phi关于X的模型。