各种研究领域(包括无线定位方向)都会碰到参数估计的问题,这时常常会看到克拉美罗界 (Cramér–Rao bound) 这个东西。很多随机信号的书都会介绍什么是克拉美罗界,但初学者学起来往往很吃力,本文从直观上简单讨论一下克拉美罗界的各个方面。
什么是参数估计问题
假设一种最简单的情况:
一个物理量为
,我们使用某种方式去观测它,观测值为
,由于存在噪声,此时
,
为高斯噪声,
。
这种情况下,我们自然会直接使用观测值
去估计
,这时就会存在估计的误差,直观地理解,噪声的方差
越大,估计就可能越不准确。
为什么要讨论克拉美罗界
讨论克拉美罗界就是为了使用这个标准来衡量无偏估计量的性能。
采用上面的方式,使用
去估计
,这个估计值会在真实值附近波动(看作随机变量)。我们需要使用一些标准来衡量这种估计的好坏,一个标准是估计值的平均,这里的这个估计量是无偏估计量。另一标准是这个估计值波动的剧烈程度,也就是方差。上面这个问题中,克拉美罗界就等于这个方差。
可是为什么不直接讨论方差而要去计算克拉美罗界呢,因为方差是针对某一种特定的估计量(或者理解为估计方式)而言的,在上面的例子中,方差是估计量
的方差(
)。对于稍微复杂一点点的问题,对
的可以有各种不同的估计量,它们分别的方差是不同的。显然,对于无偏估计量而言,方差越小的估计方式性能越好,但是这个方差有一个下界,就是我们的克拉美罗界。
直观地理解克拉美罗界
克拉美罗界本身不关心具体的估计方式,只是去反映