极大似然估计_极大似然估计、迭代、收敛

极大似然估计ML是stata给sem默认的估计方法。极大似然估计的逻辑是，在θ的一系列可能取值中，选取一个使似然函数值L(θ)最大的。它的似然函数为：

上式中，S是全部显变量组成的样本协方差矩阵。tr[SΣ^-1(θ)]是矩阵SΣ^-1(θ)的迹，即该矩阵的对角线元素之和。Log|Σ(θ)|是Σ(θ)的行列式的对数，Log|S|是矩阵S的行列式的对数，p、q分别是内生、外生显变量的个数。在大样本情况下，如果S与Σ(θ)越接近，则Log|Σ(θ)|与Log|S|越接近，而tr[SΣ^-1(θ)]也越接近(p+q)，则F_ML越小。如果S=Σ(θ)，则F_ML=0。故而，使F_ML达到最小值的估计量称为θ的最大似然估计。

大多数似然函数并没有解析解，待估参数只能以似然函数的隐函数形式存在，只能用数值计算的方法求出其数值解或近似解。极大似然估计ML就没有解析解而只有数值解，使用迭代法来求解。迭代法(Iterative Method)是利用计算机运算速度快、适合做重复性操作的特点，让计算机对一组指令进行重复执行，在每次执行这组指令时，都从变量的一个初始值出发寻找一系列近似解来解决问题(一般是解方程或方程组)的过程。跟迭代法对应的是直接法