属于监督学习(Supervised Learning);回归(Regression)
前提介绍:
为什么需要统计量?
统计量:描述数据特征
集中趋势衡量:
均值(平均数,平均值)(mean)
{6,2,9,1,2}
(6+2+9+1+2)/5 =20/5 = 4
中位数(median):将数据中的各个数值按照大小顺序排列,居于中间位置的变量
给数据排序:1,2,2,6,9
找到位置处于中间的变量:2
当n为奇数的时候:直接取位置处于中间的变量
当n为偶数的时候:取中间两个量的平均值
众数(mode):数据中出现次数最多的数
离散程度衡量:
方差(variance)
{6,2,9,1,2}
(1)(6-4)^2 + (2-4)^2+(9-4)^2+(1-4)^2+(2-4)^2
=4+4+25+9+4=46
(2)n-1 = 5 - 1 = 4
(3)46 / 4 = 11.5
标准差(standard deviation)
s = sqrt(11.5) = 3.39
介绍:回归(Regression)Y变量为连续数值型(continuous numerical variable) 如:房价,人数,降雨量
分类(Classification):Y变量为类别型(categorical variable) 如:颜色分类,电脑品牌,有无信誉
简单线性回归(Simple Linear Regression)
1、很多做决定过程中通常是根据两个或者多个变量之间的关系
2、回归分析(Regression analysis)来建立方程模拟两个或者多个变量之间如何关联
3、被预测的变量叫做:因变量(dependent variable),y,输出(output)
4、被用来进行预测的变量叫做:自变量(independent variable),x,输入(input)
简单线性回归介绍:
1、简单线性回归包含一个自变量(x)和一个因变量(y)
2、以上两个变量的关系用一条直线来模拟
3、如果包含两个以上的自变量,则称作多元回归分析(multiple Regression)
简单线性回归模型
1、被用来描述应变量(y)和自变量(X)以及偏差(error)之间关系的方程叫做回归模型
2、简单线性回归的模型是:
其中: 参数 参数 偏差
简单线性回归方程这个方程对应的图像是一条直线,称作回归线
其中,β0是回归线的截距
β1是回归线的斜率
E(y)是在一个给定x值下y的期望值(均值)
估计的简单线性回归方程
这个方程叫做估计线性方程(estimated Regression line)
其中,b0是估计线性方程的纵截距
b1是估计线性方程的斜率
y是在自变量x等于一个给定值得时候,y的估计值
线性回归分析流程:
关于偏差的假定
1、是一个随机的变量,均值为0
2、ε的方差(variable)对于所有的自变量x是一样的
3、ε的值是独立的
4、ε满足正态分布