参数估计笔记2（Chapter 3）

Chapter 3 Cramer-Rao Lower Bound

1.viable candidate一般考虑的区间。

2.PDF中参数未知，观测值已知，称为似然函数(likelihood function)。可以用负的对数似然函数的二阶微商来判断“锋利程度”(sharpness)。这也是似然函数的曲率(curvature)。

3.克拉美罗界的regularity condition（能够到达最小方差的必要条件）：

克拉美罗界：

给出证明：

由于克拉美罗界划定了估计量的方差下限（可能达到），因此如果一个估计量能达到克拉美罗界，则一定是MVU（minimum variance unbiased）。

然而有时找不到估计量能满足无偏（regularity condition），所以无法达到克拉美罗界。但是其中方差最低的一项依旧可以当作MVU。

证明过程中出现的为Fisher Information，对于多个独立变量可以直接叠加。

4.线性变换，可以得到无偏性和相应的克拉美罗界。非线性变换会破坏无偏性，但是在观测序列趋向无穷大的时候可以趋向无偏和相应的克拉美罗界。

5.向量形式的克拉美罗界。每个分量都要满足各自的常规条件（regularity condition）。克拉美罗界定义为：

Fisher information matrix定义为：

第三章未完