1.基本模式
X=(x1,x2,x3,…,xn),线性模型试图学得一个通过属性的线性组合进行预测的函数:
f(X) = w1x1 + w2x2 + … + wnxn + b
用向量形式:
f(x)=wTx + b
W和b学得之后,模型就可以确定。
eg:若在西瓜问题中学得,
f好瓜(X) = 0.2X色泽 + 0.5 X根蒂 + 0.3 X敲声 + 1
表明:综合考虑色泽、根蒂、敲声来判断瓜好不好,其中根蒂最重要,敲声比色泽更重要。
注意:
1)线性模型简单、易于建模
2)W直观的表达各属性在预测中的重要性,因此线性模型具有很好的解释性
2.线性回归(Linear Regression)
1)定义: 利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。
这种函数是一个或多个称为回归系数的模型参数的线性组合。
只有一个自变量的情况称为简单回归,大于一个自变量情况的叫做多元回归。
回归分析中,只包括一个自变量和一个因变量,且二者的关系可用一条直线近似表示,这种回归分析称为一元线性回归分析。如果回归分析中包括两个或两个以上的自变量,且因变量和自变量之间是线性