中心极限定理 (Central Limit Theorem, CLT)

中心极限定理 (Central Limit Theorem, CLT)

概述

中心极限定理 (CLT) 是概率论和统计学中的一个基本定理，它描述了在某些条件下，独立同分布随机变量的和（或均值）的分布趋于正态分布的性质。CLT 是统计推断和大数定律的核心基础，为各种统计方法和理论提供了重要的理论支持。

定理陈述

设 \(X_1, X_2, \ldots, X_n\) 是一组独立同分布的随机变量，每个变量的期望值为 \(\mu\)，方差为 \(\sigma^2\)。定义它们的样本均值为：

\[ \bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i \]

中心极限定理表明，当 \(n\) 足够大时，样本均值的分布近似服从均值为 \(\mu\)，方差为 \(\sigma^2 / n\) 的正态分布，即：

\[ \frac{\bar{X}_n - \mu}{\sigma / \sqrt{n}} \xrightarrow{d} N(0, 1) \]

其中，\(\xrightarrow{d}\) 表示按分布收敛。

换句话说，对于大样本量 \(n\)，样本均值 \(\bar{X}_n\) 近似服从正态分布 \(N(\mu, \sigma^2 / n)\)。

推广形式

中心极限定理有多种形式，以下是几种常见的推广：

1. **李维中心极限定理**：
   对于独立但不一定同分布的随机变量 \(X_i\) 序列，如果满足一定的条件，如有限的期望值和方差，以及累积效应不太大，则其归一化和仍然趋于正态分布。

2. **卢克中心极限定理**：
   对于独立但不一定同分布的随机变量 \(X_i\) 序列，如果每个变量的方差随 \(i\) 增加而变小，则归一化和也趋于正态分布。

3. **多维中心极限定理**：
   对于独立同分布的随机向量序列，归一化和的多维分布趋于多元正态分布。

应用

中心极限定理在许多领域有广泛的应用，以下是几个常见的应用场景：

1. **统计推断**：
   中心极限定理是构建置信区间和进行假设检验的基础。即使总体分布未知，当样本量足够大时，可以使用正态分布近似进行推断。

2. **质量控制**：
   在工业和制造过程中，中心极限定理用于监控生产过程中的变量，通过样本均值的分布判断生产过程是否稳定。

3. **金融分析**：
   在金融市场中，资产回报的分布通常通过中心极限定理近似为正态分布，从而进行风险评估和投资组合优化。

4. **信号处理**：
   在通信和信号处理领域，中心极限定理用于分析噪声和信号的统计特性。

例子

1. **抛硬币实验**：
   假设我们抛 \(n\) 次硬币，记每次抛掷结果为 \(X_i\)，其中 \(X_i = 1\) 表示正面，\(X_i = 0\) 表示反面。\(X_i\) 是独立同分布的随机变量，且期望值 \(\mu = 0.5\)，方差 \(\sigma^2 = 0.25\)。

   根据中心极限定理，当 \(n\) 足够大时，样本均值 \(\bar{X}_n\) 的分布近似为正态分布 \(N(0.5, 0.25/n)\)。

2. **测量误差**：
   假设我们有一系列独立的测量 \(X_1, X_2, \ldots, X_n\)，每个测量都有相同的均值 \(\mu\) 和方差 \(\sigma^2\)。根据中心极限定理，样本均值 \(\bar{X}_n\) 近似服从正态分布 \(N(\mu, \sigma^2/n)\)。

总结

中心极限定理是概率论和统计学中的一个核心定理，描述了独立同分布随机变量的和（或均值）的分布在大样本量下趋于正态分布的性质。CLT 的重要性在于它为统计推断提供了理论基础，广泛应用于各个领域，包括统计学、质量控制、金融分析和信号处理等。通过理解和应用中心极限定理，可以有效地解决各种实际问题。