线性模型(Linear Model) 是机器学习中应用最广泛的模型,指通过样本特征的线性组合来进行预测的模型。
给定一个d维样本 [ z 1 , ⋅ ⋅ , z a ] T [z_1,··,z_a]^T [z1,⋅⋅,za]T,其线性组合函数为
f ( x , w ) = w 1 x 1 + w 2 x 2 + ⋯ + w d x d + b = w T x + b , \begin{aligned}f(\mathbf{x},\mathbf{w})&=w_1x_1+w_2x_2+\cdots+w_d x_d+b\\ &=\mathbf{w}^T\mathbf{x}+b,\end{aligned} f(x,w)=w