现代信号处理——参数估计理论（估计量(估计子)的性能）

信号处理的基本任务是利用观测数据作出关于信号与（或）系统的某种统计决策。统计决策理论主要解决两大类问题：假设检验与估计。信号检测、雷达动目标检测等是假设检验的典型问题。估计理论涉及的范围更广泛，分为非参数化和参数化两类方法。参数化方法假定数据服从一已知结构的概率模型，但模型的某些参数未知。参数化估计与系统模型的辨识密切相关，其主要基础是优化理论，即被估计的参数应该在某种准则下是最优的，以及如何获得最优的参数估计。与参数化方法不同，非参数化方法不假定数据服从某种特定的概率模型，例如基于离散Fourier变换的功率谱估计和高阶谱估计等就是典型的非参数化方法。

信号处理有经典信号处理和现代信号处理之分。经典信号处理又称非参数化信号处理，不涉及产生信号的系统，主要工具是Fourier变换。现代信号处理也称参数化信号处理，将信号看作是系统被激励之后的输出，其主要工具是系统与信号的模型参数估计。

估计理论的主要任务是在某种信号假设下，估算该信号中某个参数（比如幅度、相位、达到时间）的具体取值。

参数估计：先假定研究的问题具有某种数学模型，如正态分布，二项分布，再用已知类别的学习样本估计里面的参数。例如：ARMA模型功率谱估计

非参数估计：不假定数学模型，用已知类别的学习样本的先验知识直接估计数学模型。例如：经典功率谱估计

一、估计的基本概念

例如：随机信号x(n)有N个相互独立的样本x(1),...,x(N)，其均值的估计如下，试求其数学期望。

所以该估计为均值的无偏估计。

无偏估计一定是渐进无偏的，反之不一定成立。 

渐进无偏估计是对待估计量进行无穷次估计后，估计出来的均值与真实值一样；渐进无偏估计要求估计的次数是无穷多次，因此，渐进无偏估计的估计误差有向零靠近的趋势。

而无偏估计要求对待估计量进行有限次估计后，其估计偏差必须是0。

二、常用的估计量

1、均值估计

2、方差估计

 3、自相关估计

在实际的功率谱估计中，常常使用渐进无偏估计，因为用渐进无偏估计估计出来的功率谱的方差比较小。

4、互相关估计 

 三、估计量的有效性

无偏性、渐近无偏性与一致性是我们希望一个估计子具有的统计性能，它们描述的是当样本趋于无穷大时估计子的性能，统称为大样本性能。大样本性能的理论分析一般比较难。在很多实际应用中只有N个数据的小样本，此时，该如何评价估计子的性能呢?

1、两个无偏估计量的比较

 2、无偏与渐近无偏估计子之间的比较

有效性只能比较两个估计子之间的优劣，并不能回答一个估计子是否在所有可能的估计子中是最优的?要回答这个问题，必须考虑参数θ的无偏估计子是否具有最小方差。 

参考视频与文献：

https://www.bilibili.com/video/BV1wS4y1D7ng?p=3&vd_source=77c874a500ef21df351103560dada737

现代信号处理（第三版）张贤达（编著）