我们知道，线性模型可以表示为 y = W T X + b y=W^TX+b y=WTX+b 形式。
简单来讲，广义线性模型就是可以表示为 g ( y ) = W T X + b g(y)=W^TX+b g(y)=WTX+b，即 y = g − 1 ( W T X + b ) y=g^{-1}(W^TX+b) y=g−1(WTX+b) 的一类模型。
其中，函数 g g g 单调可微，叫做联系函数(link function)，就是这个联系函数使得原本的线性模型扩展为了广义线性模型。
比如，logistic 回归就是一个广义线性模型，因为在 logistic 回归中，有：
y
=
1
1
+
e
−
(
W
T
X
+
b
)
y=\frac{1}{1+e^{-(W^TX+b)}}
y=1+e−(WTX+b)1
易得
ln
y
1
−
y
=
W
T
X
+
b
\ln\frac{y}{1-y}=W^TX+b
ln1−yy=WTX+b，即联系函数
g
(
y
)
=
y
1
−
y
g(y)=\frac{y}{1-y}
g(y)=1−yy
所以说，logistic回归就是一种广义线性模型
- 参考资料
《机器学习》 周志华，第3.2节
270
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
