计量经济分析：计量经济学中的三大检验（LR， Wald， LM）

前面用Python底层编写进行计量经济分析（一）：多元线性回归（参数估计、T检验、拟合优度、F检验）写过在多元线性回归时的参数检验方法t检验和方程整体的F检验。在分析中和实际情况中，我们可能会假定因素之间可能存在一定的约束条件。我们在意的不仅是x对y的影响，也关心我们的约束条件是否成立。于是产生了检验线性约束条件是否成立的F检验、似然比检验（LR）、沃尔德检验（Wald）和拉格朗日乘子检验（LM）。

似然比检验（LR）、沃尔德检验（Wald）和拉格朗日乘子检验（LM）称为计量经济学的三大检验。都可以用于检验我们设定的约束条件是否成立。其中 似然比检验（LR）需要估计不带约束模型的似然函数值和带约束模型的似然函数值，利用二者比例构造统计量进行假设检验。（对数似然变成差值）。沃尔德检验（Wald）需要估计不带约束模型，并根据约束条件构造统计量，进行假设检验。拉格朗日乘子检验（LM）需要估计带约束模型，并根据约束建立辅助回归，根据辅助回归的可决系数构造统计量进行假设检验（最终统计量有点像前面异方差中的white检验）。三种检验方式是渐进等价的，只是检验方式不同。可以根据估计的复杂度和模型形式选择检验方法。

一、三大检验

1.检验线性约束条件是否成立的F检验

检验线性约束条件是否成立的F检验的检验逻辑非常的直观。我们估计了有约束和无约束的的两个方程，**如果我们设定的约束条件成立，则两个模型估计出的残差平方应该近似是相等的。**所以F统计量用两个模型的残差平方和除约束条件个数作为分子来构造统计量。

2.似然比检验（LR）
似然比检验与检验线性约束条件是否成立的F检验思想一本上一样的，似然比检验认为如果我们设定的约束条件成立，则两个模型估计出的似然函数值应该近似相等的。

3.沃尔德检验（Wald）



虽然沃尔德检验（Wald）只需要估计一个无约束模型，但是需要估计约束条件的方差协方差矩阵，感觉其实还是挺麻烦的。

4.朗格朗日乘子检验（LM）



感觉构造统计量的方式十分像之前讲过的white检验(之前内容看White检验）)。虽然表面上看需要估计带约束的回归，但实际上看还需要估计一个辅助回归。

相比上面这三种方法，还是似然比检验的理论和方法最直观，真香！

后面会用python实现线性约束条件是否成立的F检验和似然比检验，