欢迎前往我的个人博客阅读原文。
解决不能准确计算出概率和期望的问题的有效策略有三种：模拟、约束和近似。模拟，就是使用 Monte Carlo 法模拟，但是模拟结果很容易遭到质疑，而且即使在速度很快的计算机上，模拟也可能需要长时间运行。对概率的约束可以证明概率在一定范围内，界限可能无法给出一个很好的近似，至少可以保证真实值一定是此区间的一个值。极限理论近似法即使用大数定律和中心极限定理处理数据量比较大的情形。
下面给出概率论中的一些不等式约束：
Cauchy-Schwarz 不等式：对联合期望的边际约束
Cauchy-Schwarz 不等式是所有数学公式中最著名的不等式之一。
Cauchy-Schwarz 不等式 对任意的随机变量 X X X 和 Y Y Y ， X X X 和 Y Y Y 的方差有限，都有
∣ E ( X Y ) ∣ ≤ E ( X 2 ) E ( Y 2 ) . |E(XY)|\le\sqrt{E(X^2)E(Y^2)}. ∣E(XY)∣≤E(X2)E(Y2).
Proof. 对于任意的 t t t，有
0 ≤ E ( Y − t X ) 2 = E ( Y 2 ) − 2 t E ( X Y ) + t 2 E ( X 2 ) 0\le E(Y-tX)^2=E(Y^2)-2tE(XY)+t^2E(X^2) 0≤E(Y−tX)2=E(Y2)−2tE(XY)+t2E(X2)
下面寻找使不等式最优的 t t t 值，是不等式右边最小：
f ( t ) = t 2 E ( X 2 ) − 2 t E ( X Y ) + E ( Y 2 ) f ′ ( t ) = 2 t E ( X 2 ) − 2 E ( X Y ) = 0 f(t)=t^2E(X^2)-2tE(XY)+E(Y^2)\\f'(t)=2tE(X^2)-2E(XY)=0 f(t)=t2E(X2)−2tE(XY)+E(Y2)f′(t)=2tE(X2)−2E(XY)=0
解得 t = E ( X Y ) E ( X 2 ) t=\cfrac{E(XY)}{E(X^2)} t=E(X2)E(XY)。代入 t t t 的值得，
∣ E ( X Y ) ∣ ≤ E ( X 2 ) E ( Y 2 ) . |E(XY)|\le\sqrt{E(X^2)E(Y^2)}. ∣E(XY)∣≤E(X2)E(Y2).
- 如果 X X X 和 Y Y Y 不相关，那么 E ( X Y ) = E ( X ) E ( Y ) E(XY)=E(X)E(Y) E(XY)
最低0.47元/天 解锁文章
7642
被折叠的 条评论
为什么被折叠?
到【灌水乐园】发言
