大数定律和中心极限定理

大数定律

依概率收敛

定义：

n普遍表示实验次数
性质：若$X_n$依概率收敛于a，$Y_n$依概率收敛于b，g在(a,b)连续，则$g(X_n,Y_n)$依概率收敛于g(a,b)

马尔可夫不等式和切比雪夫不等式

马尔可夫不等式

切比雪夫不等式

设随机变量X具有数学期望μ，方差σ²则对任意正数ε，不等式

或

成立。
该公式告诉我们事件大多会集中在平均值附近

https://www.zhihu.com/question/27821324/answer/248693398

切比雪夫不等式预测的准确率要远远高于马尔科夫不等式

几个大数定律

大数定律告诉我们：
当n特别大时，n个特定（独立同分布or相同期望和方差）的随机变量的均值趋向于数学期望μ；也就是说大量重复独立实验中频率接近于概率，可以用频率来估计概率。
切比雪夫大数定律：
若X1,X2,…Xn相互独立，且具有相同的数学期望与方差，则当n趋向于无穷时，
$$\frac{1}{n}\sum _{k=1}^n{X}_k\stackrel{p}{⟶}\mu$$
辛钦大数定律：
若X1,X2,…Xn独立同分布，且$E(X_i)=\mu$，则当n趋向于无穷时，
$$\frac{1}{n}\sum _{k=1}^n{X}_k\stackrel{p}{⟶}\mu$$

中心极限定理

设随机变量X1，X2，…Xn，…独立同分布，并且具有有限的数学期望和方差：E(Xi)=μ，D(Xi)=σ²，则当n很大时，随机变量

近似地服从标准正态分布N(0，1)。
中心极限定理告诉我们：多个独立同分布的随机变量的和服从于特定的正态分布（均值为nμ，方差为nσ²）