前言:本篇博文主要介绍线性回归模型(linear regression),首先介绍相关的基础概念和原理,然后通过Python代码实现线性回归模型。特别强调,其中大多理论知识来源于《统计学习方法_李航》和斯坦福课程翻译笔记以及Coursera机器学习课程。
1.线性回归
回归模型(regression model)也叫做拟合模型,通俗点解释,就是假设我们有很多数据,包含房子的面积X和对应的房价y,那么我们希望得到房价y关于面积X的关系(h(X) = y),那么现在你知道一个房屋的面积Xi,基本就可以根据这个关系预测(推导)出房价yi了。
之所以叫做“线性回归”,因为我们假设y与X具有的是一种线性关系,称为假设函数:
其中参数w0称为“偏置”,w1称为“权重”,x表示输入变量X的一个“特征变量”,这里先假设只有一个特征变量。
Note: