机器学习（一）概率论基础

**

1. 期望

**
定义：
期望有两种形式，离散型：

和连续型：

期望的意思就是概率加权下的“平均值”。

性质：

补充一点：
随机事件是随机变量取某一特定值时的情况，有两个重要性质：
独立性:

互斥性：

2.方差

定义： n个样本的分布规律偏离于平均值的程度

性质：

3.协方差

定义：

性质：

协方差矩阵：
——–怎样评价多个特征属性之间的相关关系呢？

可以通过协方差矩阵（相关系数矩阵）来筛选特征。
注：这里讲的不相关是指线性独立，并不是两户独立，因为可能存在非线性相关。

矩：
对于随机变量X，X的K阶原点矩为：E（XK）。 X的K阶中心距为：

4.几个重要的不等式

由切比雪夫不等式推出大数定理：