LinearRegression(线性回归)
2019-02-20 20:25:47
1.线性回归简介
线性回归定义:
我个人的理解就是:线性回归算法就是一个使用线性函数作为模型框架($y = w*x + b$)、并通过优化算法对训练数据进行训练、最终得出最优(全局最优解或局部最优)参数的过程。
y:我们需要预测的数值;
w:模型的参数(即我们需要通过训练调整的的值)
x:已知的特征值
b:模型的偏移量
我们的目的是通过已知的x和y,通过训练找出合适的参数w和b来模拟x与y之间的关系,并最终通过x来预测y。
分类:
线性回归属于监督学习中的回归算法;
线性回归作为机器学习的入门级算法,很适合刚接触机器学习的新手。虽然线性回归本身比较简单,但是麻雀虽小,五脏俱全,其中涉及到的“线性模型”、“目标函数”、“梯度下降”、“迭代”、“评价准则”等思想与其他复杂的机器学习算法是相通的,深入理解线性回归后可以帮助你更加轻松的学习其他机器学习算法。
2.线性回归模型解析
2.1 线性回归模型示意图
2.2模型的组成部件
2.2.1 假设函数(Hypothesis function)
$h_w(x) = b + w_0x_0 + w_1x_1 + ··· +w_nx_n$
使用向量方式表示:
$X=\begin{bmatrix}
\ x_0
\\ x_1