最小二乘法OLS以及最大似然估计MLE的比较

OLS和MLE

我们经常遇到OLS和MLE。 “ OLS”代表“普通最小二乘”，而“ MLE”代表“最大似然估计”。通常，这两个统计术语相互关联。让我们了解普通最小二乘法和最大似然估计之间的差异。

普通最小二乘法或OLS也可以称为线性最小二乘。这是一种用于近似确定位于线性回归模型中的未知参数的方法。通过最小化数据集内观察到的响应与线性近似预测的响应之间的垂直距离平方的总和，可以得到普通最小二乘。通过一个简单的公式，您可以表示所得的估计量，尤其是位于线性回归模型右侧的单个回归量。

例如，您有一组方程式，其中包括几个参数未知的方程式。您可以使用普通最小二乘法，因为这是系统找到近似解的最标准方法。换句话说，这是使方程式中误差平方和最小化的整体解决方案。数据拟合可能是您最适合的应用程序。在线资料表明，最适合普通最小二乘法的数据可使残差平方和最小。 “剩余”是“观察值与模型提供的拟合值之间的差。”

最大似然估计或MLE是一种用于估计统计模型的参数以及将统计模型拟合到数据的方法。如果要查找特定位置中每个篮球运动员的身高测量值，则可以使用最大似然估计。通常，您会遇到成本和时间限制等问题。如果您无力测量所有篮球运动员的身高，则最大似然估计将非常方便。使用最大似然估计，您可以估计受试者身高的均值和方差。 MLE将在确定给定模型中的特定参数值时将平均值和方差设置为参数。

综上所述，最大似然估计涵盖一组参数，这些参数可用于预测正态分布中所需的数据。给定的固定数据集及其概率模型可能会生成预测数据。关于估计，MLE将为我们提供统一的方法。但是在某些情况下，由于识别出的错误，或者实际上甚至根本不存在问题，我们无法使用最大似然估计。

普通最小二乘法或OLS也可以称为线性最小二乘。这是一种用于近似确定位于线性回归模型中的未知参数的方法。

最大似然估计（MLE）是一种用于估计统计模型参数并将统计模型拟合到数据的方法。

另外看到一个更好的解释

https://www.zhihu.com/question/20447622