学习笔记,自liuyubobo老师,慕课网
**
线性回归算法
**
0 目录结构
1.1 一类机器学习算法的基本思路
线性回归使用最佳的拟合直线(也就是回归线)在因变量(Y)和一个或多个自变量(X)之间建立一种关系。用一个方程式来表示它,即Y=a+b*X + e,其中a表示截距,b表示直线的斜率,e是误差项。这个方程可以根据给定的预测变量(s)来预测目标变量的值。
损失函数最小
1.2 简单的线性回归求解
有了 a 和 b 的值后,可以预测回归问题(x == 6):
1.3 衡量线性回归法的指标
拿测试数据,通过模型计算结果和预测结果进行比较,但是和容量m相关
1.3.1 MSE
改进,取1/m,就引入了下面的均方误差MSE:
1.3.2 RMSE
但是量纲不一样,有平方,所以引入开一个根号 -> RMSE 均方根误差(Root Mean Suqared Error)
1.3.3 MAE
另一个评测标准:
1.3.4 R Squared
R-Squared R方误差估计
R方值的含义:
R方还可以表示为:
1.4 多元线性回归
目标函数:
为了实现向量化计算,将西塔右边加了一个恒等于1的数。
从而将数值计算,转化为矩阵计算。
1.5 线性回归总结