克拉美-劳界（Cramér-Rao Bound，CRB）及其修正型

1、克拉美-劳下界（Cramér-Rao Bound，CRB）

  CRB描述了一个无偏估计器的最小方差（或均方误差），即在给定某些数据的情况下，无偏估计器的方差不能低于CRB。CRB是一种理论上的下界，用于衡量一个估计器的最佳性能，在参数估计和信号处理领域有着广泛的应用。
  在以下情况下，CRB可能不能直接提供一个有用的估计器性能下界：

1. 非线性参数估计。可以考虑使用MCRB或者其他类似的方法来解决。
2. 非常规条件。CRB基于一些常规条件，例如参数是无偏估计、概率密度函数是可微的等。在不满足这些条件的情况下，CRB可能无法直接提供有用的估计器性能下界。在这些情况下，可以考虑使用其他方法，如对CRB 进行修正，以适应特定的问题和条件。
3. 无穷方差。当估计器的方差趋向于无穷大时，CRB可能不会提供一个有用的下界。
4. 离散参数。CRB 主要适用于连续参数估计问题。对于离散参数估计问题，CRB 可能无法直接提供一个有用的性能下界。

  对于接收信号$r(t)=s(t;\gamma )+w(t)$，其中$\gamma$表示一组未知的参数，可能包括$\nu$、$\theta$、$\tau$和数据符号，但不一定包含所有这些参数。例如，如果传输一个训练序列，这些符号是已知的。为了简化讨论，我们集中讨论 { ν , θ , τ } \{\nu,\theta,\tau\} {ν,θ,τ}中单个元素的估计，待估计元素记为$\lambda$，并被视为常量（确定但未知，不是随机变量）。因此，冗余参数的向量记为$\mathbf{u}$，将包含数据符号加上 { ν , θ , τ } \{\nu,\theta,\tau\} {ν,θ,τ}中的两个元素。在基带传输的情况下，只有一个同步参数$\tau$，并且$\mathbf{u}$的唯一可能的组成部分是数据符号。

  考虑$\lambda$（不一定是ML）的一般估计过程，设$\hat{\lambda }\left(\mathbf{r}\right)$为相应的估计。如果它与$\lambda$的真实值相符（对于$\lambda$的任何允许值），那么我们就说这个估计是无偏的。误差$\hat{\lambda }\left(\mathbf{r}\right)-\lambda$可以达到的最小方差由Cramer-Rao界给出的，它是任何无偏估计量的方差的下限，表示为
$$\mathrm{Var}\left\{\hat{\lambda }\left(\mathbf{r}\right)-\lambda \right\}⩾CRB\left(\lambda \right)$$
其中
$$\begin{array}{rl}CRB(\lambda )& \triangleq -\frac{1}{{\mathrm{E}}_{\mathbf{r}}\left\{\frac{{\partial }^2\ln \Lambda (\mathbf{r}|\lambda )}{\partial {\lambda }^2}\right\}}\\ & =\frac{1}{{\mathrm{E}}_{\mathbf{r}}\left\{{\left[\frac{\partial \ln \Lambda (\mathbf{r}|\lambda )}{\partial \lambda }\right]}^2\right\}}\end{array}$$
E r { ⋅ } \mathrm{E}_{\boldsymbol{r}}\left\{ \cdot \right\} Er​{⋅}是观测信号向量关于待估计参数的期望。
  然而，由于计算$\Lambda (\mathbf{r}|\tilde{\lambda })$的必要性，CRB很难应用于实际的同步问题。因为这个函数是通过对$\Lambda (\mathbf{r}|\tilde{\lambda },\mathbf{u})$中冗余参数求期望得到的。
$$\Lambda (\mathbf{r}|\tilde{\mathbf{\lambda }})=\underset{-\infty }{\overset{\infty }{\int }}\Lambda (\mathbf{r}|\tilde{\mathbf{\lambda }},\tilde{\mathbf{u}})p(\tilde{\mathbf{u}})d\tilde{\mathbf{u}}$$
计算$\Lambda (\mathbf{r}|\tilde{\lambda })$或者期望${\mathrm{E}}_{\mathbf{r}}\left\{{\left[\frac{\partial \ln \Lambda (\mathbf{r}|\lambda )}{\partial \lambda }\right]}^2\right\}$在实际同步问题中通常是不可行的，解决这一缺点的一种途径是求助于修正的Cramer-Rao界（MCRB），它仍然适用于任何无偏估计量。

2、修正的克拉美-劳界（Modified Cramér-Rao Bound，MCRB）

  MCRB是CRB的一种改进方法。MCRB通常被用来解决在某些情况下CRB的局限性，例如当标准CRB不适用或者在具有非线性参数估计问题的情况下，MCRB可以提供一个更为实际且准确的性能下界，以更好地指导估计器的设计和评估。
$$\mathrm{Var}\left\{\hat{\lambda }\left(\mathbf{r}\right)-\lambda \right\}⩾MCRB\left(\lambda \right)$$
  对于通带信号有
$$MCRB(\lambda )\triangleq \frac{N_0}{{\mathrm{E}}_{\mathbf{u}}\left\{\underset{0}{\overset{T_0}{\int }}{\left|\frac{\partial s(t,\lambda ,\mathbf{u})}{\partial \lambda }\right|}^{2}dt\right\}}$$
  对于基带信号有
$$MCRB(\lambda )\triangleq \frac{N_0/2}{{\mathrm{E}}_{\mathbf{u}}\left\{\underset{0}{\overset{T_0}{\int }}{\left|\frac{\partial s(t,\lambda ,\mathbf{u})}{\partial \lambda }\right|}^{2}dt\right\}}$$
  其中$CRB(\lambda )$和$MCRB(\lambda )$的关系为
$$CRB(\lambda )\ge MCRB(\lambda )$$

等式只在两种特殊情况下成立：当完全$\mathbf{u}$已知或为空（没有不必要的参数）。

  $CRB(\lambda )$和$MCRB(\lambda )$在以下情况下重合：
  （1）当$\nu$、 $\tau$和数据已知时，对$\theta$的估计；
  （2）当$\nu$、 $\theta$和数据已知时，对$\tau$的估计；
  （3）当$\tau$和差分数据可用但$\theta$未知时，M-PSK调制对$\nu$的估计。

3、基于无迹变换（Unscented Transform，UT）的改进型克拉美罗-劳下界（Unscented Cramér-Rao Bound，UCRB）

  UCRB是一种基于无迹变换的改进型克拉美-劳下界，适用于非线性参数估计问题，尤其是在高斯分布假设下的非线性问题。UCRB的提出是也解决了CRB在非线性参数估计问题中的局限性。
  无迹变换是一种用于非线性滤波和参数估计问题的方法，它通过选择一组称为“无迹点”的采样点来近似非线性变换的均值和协方差。这些无迹点的选择使得在非线性变换后，高斯分布的均值和协方差能够保持一致。UCRB 利用无迹变换来近似非线性参数估计问题中的费舍尔信息矩阵（Fisher Information Matrix，FIM）。通过这种方式，UCRB 能够更准确地估计非线性问题的性能下界，从而为非线性估计器的设计和评估提供有用的信息。