MLE assumption 问题

MLE的成立不建立在任何假设上（可能错了）。有时MLE最后的形式不是一个closed form，不能确切的求出这个estimator。所以这个时候，我们可以asymptotically来approximate 这个值。当n 趋于无穷的时候，MLE会follow一个normal distribution: $\sqrt{n}(\hat{\theta }-\theta )\sim N(0,I^{-1})$.
MLE 既是consistent也是efficient estimator。
还有一点想强调的是，在linear regression中我们用到了 iid的假设并且假设data是从normal distribution里sample出来的。当用OLS求estimator的时候，其实跟MLE本质上是一样的，因为到最后都是要最小化exponential上面的平方项（如果variance已知的话， 如果不是已知条件我还没想好）。