一、马尔可夫不等式(Markov)
马尔可夫不等式描述的是非负随机变量绝对位置的概率上限
对于非负随机变量X,a >= 0,有
证明:原式可化为
注意到,因为 X 非负,右边
二、切比雪夫不等式(Chebyshev)
切比雪夫不等式描述的是随机变量距期望相对位置偏离的概率上限
证明:记
右边
注意到,在 中,,因此有
三、柯西-施瓦茨不等式(Cauchy-Schwarz)
柯西-施瓦茨不等式描述的是协方差与方差之间的不等关系
证明:上式可化为
可以看到组成部分只有 2 个: 与
因此构造函数
显然有 ,所以上述二次函数
即柯西-施瓦茨不等式