线性回归问题

线性回归

线性回归(Linear Regression)是利用称为线性回归方程的最小平方函数对一个或多个自变量和因变量之间关系进行建模的一种回归分析。
例如：
有三个样本点(1,1),(2,2),(3,3)

我们假设函数为：

用这个函数表示样本点的模型，此时要找到合适的模型就要确定θ1的最佳值

代价函数

为确定合适的θ1，就要设定代价函数，我们用最小二乘法来表示代价函数：

此时即成为了以θ1为变量的函数，那么使代价最小的θ1的值即为所求
函数图像为：

再复杂一点，如果样本为下图：

那么假设函数为：

代价函数为：

所得代价函数的图像为：

• 参考吴恩达机器学习课程