相关性分析(一)之连续特征

相关性分析

分析两个特征的相关程度叫做相关性分析，比如“身高”与“体重”两个特征，就可以使用相关性分析找到两者的相关关系。

正相关/负相关/不相关

图表

分析两组数量不大的数据时，可以用图表法，常见的图表法有以下两种：

1. 折线（时间维度）：双坐标折线图
2. 散点图
   图表可以清晰的展现相关关系，但无法准确度量，且缺乏说服力。

协方差

协方差公公式如下：
x和y分别表示的是两个特征，这两个特征都有n条：
原理如下：

当协方差>0表示两个特征正相关，协方差<0表示两个特征负相关。

不能通过协方差判断两个特征相关性强弱。
协方差值小可能是由两个原因引起的：

1. 方差小，即数据不离散。
2. 相关性弱。

协方差矩阵

协方差矩阵反映的是两两的相关性，其每个元素是各个特征之间的协方差。

协方差矩阵# 相关性分析
分析两个特征的相关程度叫做相关性分析，比如“身高”与“体重”两个特征，就可以使用相关性分析找到两者的相关关系。## 正相关/负相关/不相关### 图表分析两组数量不大的数据时，可以用图表法，常见的图表法有以下两种：1. 折线（时间维度）：双坐标折线图2. 散点图图表可以清晰的展现相关关系，但无法准确度量，且缺乏说服力。### 协方差协方差公公式如下：x和y分别表示的是两个特征，这两个特征都有n条：原理如下：当协方差>0表示两个特征正相关，协方差<0表示两个特征负相关。>不能通过协方差判断两个特征相关性强弱。>协方差值小可能是由两个原因引起的：>1. 方差小，即数据不理三>2. 相关性弱。### 协方差矩阵协方差矩阵反映的是两两的相关性，其每个元素是各个特征之间的协方差。

1. 对角线元素决定了图形是圆还是扁。
2. 非对角线元素决定了分布图形的轴向（扁的方向）。

相关性强弱

相关系数

那么为了判断相关性强弱，可以排除协方差中相关性的影响，这就是皮尔逊相关系数，即：

建模

一元回归及多元回归

一元回归

如果两个特征线性相关，那么可以对这两个特征线性拟合。

多元回归

多元回归首先要确定变量个数，并确定自/因变量，接下来就可以具体问题具体分析。

显著性检验

可以通过显著性检验证明两个变量x，y之间是否具有显著的线性关系。

F检验

通过F检验对一元线性回归效果进行分析。
一元线性回归的数学模型：

原理： 若y=a+bx+ε中的b=0，说明x的变化对y没有影响，这时回归方程$\hat{y}=\hat{a}+\hat{b}x$就不能近似的描述y和x的关系，因此为了判断x与y再见是否存在线性关系，只需检验假设$H_0：b=0$，接受原假设，表示不能认为x，y再见存在线性相关关系。
构造统计量：

1. 变量y的离差平方和（类似于方差）：$$L_{yy}=\sum _{i=1}^n(y_i-\overline{y})=\sum _{i=1}^n(y_i-\widehat{y_i})+\sum _{i=1}^n(\widehat{y_i}-\overline{y})=Q+U$$
   其中，$Q={\sum }_{i=1}^n(y_i-\widehat{y_i}$