数据分析基础——基本运算

2019独角兽企业重金招聘Python工程师标准>>>

数据分析基础——基本运算

x=[n*m]型矩阵数据，n是佯本数，m是变量维数；

*********************************基本公式************************************

均值：每一列的均值

mean(xj)=(xj1+xj2+...+xjn)/n

方差：计算每一列的方差

var(xj)=[(xj1-mean(xj))^2+(xj2-mean(xj))^2+...+(xjn-mean(xj))^2]/n

标准差：方差的开方

std=var(xj)^1/2

协方差：变量xj和xk之间协方差

cov(xj, xk)=[(xj1-mean(xj))*(xk1-mean(xk))+...+(xjn-mean(xj))*(xkn-mean(xk))]/n

相关系数：变量xj和xk之间的相关系数 ，反映两个变量的相似程度0~1；

r(xj , xk)=cov(xj , xk)/[std(xj)*std(xk)]

向量内积：变量x和y之间的内积

(x1y1+x2y2+...+xmym)

向量x,y之间的夹角：内积/（模x*模y）

(x1y1+x2y2+...+xmym)/ [(x1^2+x2^2+...+xm^2)^1/2 *  (y1^2+y2^2+...+ym^2)^1/2]

内积和夹角之间的关系

***********************************基本处理********************************

数据中心化：均值为0，中心在原点

Xij=xij-mean(xj)

数据无量纲化：各种无量纲方法，对数据压缩

Xij=xij/std(xj)

Xij=xij/max(xj)

Xij=xij/min(xj)

Xij=xij/mean(xj)

Xij=xij/[max(xj)-min(xj)]

数据归一化：其实和上面无量纲一个意思，对数据中心化和压缩

Xij=[xij-min(xj)]/[max(xj)-min(xj)]

数据标准化：标准化是对数据每列佯本数进行标准化，均值为0，方差为1；标准化的目的是对数据进行中心化和压缩

Xij=(xij-mean(xj))/std(xj)

变量归一化(单位圆化)：对每个佯本进行归一化（变量间归一化），中心在原点，距离为1；注意这里是对每一行进行归一化，每个佯本的模为1；

Xij=xij/(xi1^2+xi2^2+...+xim^2)^1/2

说明：因该针对不同的问题，采用不同数据处理方法，不能盲目用以上方法，比如：归一化是对列还是对行进行处理，需要看数据针对的问题。

心得：单位圆化后的两个向量的夹角=其内积

补充：测定系数R^2（多元回归中叫复测定系数），对回归方程的一个评价指标。（参考偏最小二乘回归的线性与非线性方法(书.王惠文)）

 

 

 

转载于:https://my.oschina.net/u/3851199/blog/1942016