马尔可夫不等式与切比雪夫不等式
马尔可夫不等式把概率关联到数学期望,给出了随机变量的分布函数的一个宽泛但仍有用的界。
令
X
X
X为非负随机变量,且假设
E
(
X
)
E(X)
E(X)存在,则对任意的
a
>
0
a>0
a>0有
P
{
X
≥
a
}
≤
E
[
X
]
a
\begin{aligned} P\left\{ X\ge a \right\}\le \frac{E[X]}{a} \end{aligned}
P{X≥a}≤aE[X]
马尔可夫不等式是用来估计尾部事件的概率上界。
一个直观的例子是:如果
X
X
X是工资,那么
E
(
X
)
E(X)
E(X)就是平均工资,假设
a
=
n
∗
E
(
X
)
a=n{*}E(X)
a=n∗E(X),即平均工资的
n
n
n倍。那么根据马尔可夫不等式,不超过
1
/
n
1/n
1/n的人会有超过平均工资的
n
n
n倍的工资。
证明如下:
E
(
X
)
=
∫
0
∞
x
f
(
x
)
d
x
=
∫
0
a
x
f
(
x
)
d
x
+
∫
a
+
∞
x
f
(
x
)
d
x
≥
∫
a
+
∞
x
f
(
x
)
d
x
≥
a
∫
a
+
∞
f
(
x
)
d
x
≥
a
P
{
X
>
a
}
\begin{aligned} E\left( X \right)=\int_{0}^{\infty }{xf\left( x \right)dx=}\int_{0}^{a}{xf\left( x \right)dx}+\int_{a}^{+\infty }{xf\left( x \right)dx} \ge \int_{a}^{+\infty }{xf\left( x \right)dx} \ge a\int_{a}^{+\infty }{f\left( x \right)dx} \ge aP\left\{ X>a \right\} \\ \end{aligned}
E(X)=∫0∞xf(x)dx=∫0axf(x)dx+∫a+∞xf(x)dx≥∫a+∞xf(x)dx≥a∫a+∞f(x)dx≥aP{X>a}
切比雪夫不等式是马尔可夫不等式的特殊情况。
马尔可夫不等式的作用:推导切比雪夫不等式。
若随机变量
X
X
X的数学期望和方差都存在,分别设为
E
(
X
)
E(X)
E(X)和
D
(
X
)
D(X)
D(X),则对任意的
ε
>
0
\varepsilon >0
ε>0,有
P
{
∣
X
−
E
(
X
)
∣
≥
ε
}
≤
D
(
X
)
ε
2
\begin{aligned} P\left\{ \left| X-E\left( X \right) \right|\ge \varepsilon \right\}\le \frac{D\left( X \right)}{{{\varepsilon }^{2}}} \end{aligned}
P{∣X−E(X)∣≥ε}≤ε2D(X)
通过马尔可夫不等式可以证明:
P
{
∣
X
−
E
(
X
)
∣
≥
ε
}
=
P
{
∣
X
−
E
(
X
)
∣
2
≥
ε
2
}
≤
E
{
∣
X
−
E
(
X
)
∣
2
}
ε
2
=
D
(
X
)
ε
2
\begin{aligned} P\left\{ \left| X-E\left( X \right) \right|\ge \varepsilon \right\}\text{=}P\left\{ {{\left| X-E\left( X \right) \right|}^{\text{2}}}\ge {{\varepsilon }^{\text{2}}} \right\}\le \frac{E\left\{ {{\left| X-E\left( X \right) \right|}^{\text{2}}} \right\}}{{{\varepsilon }^{2}}}\text{=}\frac{D\left( X \right)}{{{\varepsilon }^{2}}} \end{aligned}
P{∣X−E(X)∣≥ε}=P{∣X−E(X)∣2≥ε2}≤ε2E{∣X−E(X)∣2}=ε2D(X)
切比雪夫不等式没有限定分布的形式,所以应用广泛,但是这个界很松。
ε
\varepsilon
ε代表
X
X
X和期望
E
(
X
)
E(X)
E(X)之间的距离,相差越大,则概率越小,它描述了这样一个事实:事件大多会集中在平均值附近。
参考:
1.https://www.cnblogs.com/yanghh/p/13291411.html
2.https://baike.so.com/doc/7009641-7232523.html
3.https://www.cnblogs.com/hmy-666/p/12771586.html