我想,矩估计法(Method of Moments)的本质确实是通过样本矩得到总体矩,进而求出参数 θ \theta θ。让我们详细解释一下这个过程。
矩估计法的步骤
-
确定样本矩:
- 首先,从样本数据中计算出样本矩。对于一个随机变量
X
X
X,第
k
k
k阶样本矩定义为:
m k = 1 n ∑ i = 1 n X i k m_k = \frac{1}{n} \sum_{i=1}^{n} X_i^k mk=n1i=1∑nXik
- 首先,从样本数据中计算出样本矩。对于一个随机变量
X
X
X,第
k
k
k阶样本矩定义为:
-
建立总体矩的方程:
- 确定总体矩的表达式,通常用模型参数 θ \theta θ表示。例如,对于总体随机变量 X X X,第 k k k阶矩为 E [ X k ] E[X^k] E[Xk]。
-
建立方程组:
- 将样本矩等于总体矩,形成关于参数
θ
\theta
θ的方程组。对于第一个和第二个矩:
m 1 = E [ X ] m_1 = E[X] m1=E[X]
m 2 = E [ X 2 ] m_2 = E[X^2] m2=E[X2]
- 将样本矩等于总体矩,形成关于参数
θ
\theta
θ的方程组。对于第一个和第二个矩:
-
解方程组:
- 解出参数 θ \theta θ的估计值。
示例
假设我们有一个均值为 μ \mu μ,方差为 σ 2 \sigma^2 σ2的正态分布 N ( μ , σ 2 ) N(\mu, \sigma^2) N(μ,σ2)的样本 { X 1 , X 2 , … , X n } \{X_1, X_2, \ldots, X_n\} {X1,X2,…,Xn}。
-
计算样本矩:
- 样本的第一阶矩(样本均值):
m 1 = 1 n ∑ i = 1 n X i m_1 = \frac{1}{n} \sum_{i=1}^{n} X_i m1=n1i=1∑nXi - 样本的第二阶矩:
m 2 = 1 n ∑ i = 1 n X i 2 m_2 = \frac{1}{n} \sum_{i=1}^{n} X_i^2 m2=n1i=1∑nXi2
- 样本的第一阶矩(样本均值):
-
确定总体矩:
- 总体的第一阶矩为 E [ X ] = μ E[X] = \mu E[X]=μ
- 总体的第二阶矩为 E [ X 2 ] = μ 2 + σ 2 E[X^2] = \mu^2 + \sigma^2 E[X2]=μ2+σ2
-
建立方程组:
- 根据样本矩等于总体矩:
m 1 = μ m_1 = \mu m1=μ
m 2 = μ 2 + σ 2 m_2 = \mu^2 + \sigma^2 m2=μ2+σ2
- 根据样本矩等于总体矩:
-
解方程组:
- 解出
μ
\mu
μ和
σ
2
\sigma^2
σ2:
μ ^ = m 1 \hat{\mu} = m_1 μ^=m1
σ ^ 2 = m 2 − m 1 2 \hat{\sigma}^2 = m_2 - m_1^2 σ^2=m2−m12
- 解出
μ
\mu
μ和
σ
2
\sigma^2
σ2:
示例2
在例子2中,假设总体分布 X ∼ f ( x ; θ ) X \sim f(x; \theta) X∼f(x;θ),其中 f ( x ; θ ) = ( 0 < x < 1 ) ⋅ θ x θ − 1 f(x; \theta) = (0< x <1) \cdot \theta x^{\theta-1} f(x;θ)=(0<x<1)⋅θxθ−1, θ > 0 \theta > 0 θ>0。假设从总体中抽取了一组简单样本 X 1 , X 2 , … , X n X_1, X_2, \ldots, X_n X1,X2,…,Xn。
-
计算样本的第一阶矩:
X ˉ = 1 n ∑ i = 1 n X i \bar{X} = \frac{1}{n} \sum_{i=1}^{n} X_i Xˉ=n1i=1∑nXi -
总体的第一阶矩:
E [ X ] = θ θ + 1 E[X] = \frac{\theta}{\theta + 1} E[X]=θ+1θ -
建立方程:
X ˉ = θ θ + 1 \bar{X} = \frac{\theta}{\theta + 1} Xˉ=θ+1θ -
解方程:
θ = X ˉ 1 − X ˉ \theta = \frac{\bar{X}}{1 - \bar{X}} θ=1−XˉXˉ
通过这种方法,利用样本矩匹配总体矩,就可以得到参数 θ \theta θ的估计值。