机器学习

机器学习 之基本概念

All things are difficult before they are easy

1.欧氏距离（Euclidean distance）

两个n维向量 a(x11,x12,…,x1n) 与 b(x21,x22,…,x2n)间的欧氏距离：

 

2.马氏距离

考虑各种特性之间的联系

马氏距离也可以定义为两个服从同一分布并且其协方差矩阵为的随机变量与的差异程度：

其中表示方法：

欧几里得距离，

Mahalanobis距离，

3.协方差矩阵

协方差就是这样一种用来度量两个随机变量关系的统计量

协方差矩阵的定义：

假设数据集有三个维度，则协方差矩阵为：