线性回归

最新推荐文章于 2018-08-29 22:04:03 发布

snoowood

最新推荐文章于 2018-08-29 22:04:03 发布

阅读量1.3k

点赞数 1

分类专栏：机器学习文章标签：线性回归机器学习

本文链接：https://blog.csdn.net/l01w29/article/details/19820521

版权

这篇博客介绍了线性回归的概念，通过梯度下降法和正规方程训练模型，并探讨了特征缩放和正则化在防止过拟合中的作用，旨在预测未知房屋的售价。

摘要由CSDN通过智能技术生成

1. 问题引入

已知一批房屋销售数据，

面积（ $m^{2}$ ) 价格（万元）

2104 460

1416 232

1534 315

... ...

852 178

面积（ $m^{2}$ )	价格（万元）
2104	460
1416	232
1534	315
...	...
852	178

对于一间面积为1250（该数据不在已知数据内）的房屋，我们该如何预测它的售价呢？一种直观的想法就是利用一条直线去拟合上述数据，然后对于新的数据，可以将直线上这个点对应的值输出作为预测值。

2. 概念和符号

训练样例（training example）：一条房屋销售记录，用 $\left ( \mathbf{x}^{\left ( i \right )}, y^{\left ( i \right )} \right )$ 表示；其中 $\mathbf{x}^{\left ( i \right )}$ 表示特征向量， $y^{\left ( i \right )}$ 表示样例的值。当样例有多个特征时（假设有n个特征），有

$\mathbf{x}^{\left ( i \right )} = \begin{pmatrix} \\ x_{1} \\ x_{2} \\ ... \\ x_{n} \end{pmatrix}$ ；

训练集（training set）：房屋销售记录集合，用X表示； $\mathbf{X} = \left \{ \mathbf{x}^{\left ( 1 \right )}, \mathbf{x}^{\left ( 2 \right )}, ..., \mathbf{x}^{\left ( m \right )} \right \}$ ，m为训练样例数；

3. 线性回归

线性回归假设特征和结果满足线性关系

$h\left ( \mathbf{x} \right ) =h_{\mathbf{\Theta }}\left (\mathbf{x} \right ) = \Theta _{0} + \Theta _{1}x_{1} + \Theta _{2}x_{2} + ... + \Theta _{n}x_{n}$ ，其中