最小二乘法定理

最小二乘法定理满足正态分布的最大似然估计，且基于先验的知识

独立算误差，足够多的样本证实误差样本组满足正态分布。

最大似然估计，只是一种概率论在统计学的应用，它是参数估计的方法之一。 说的是已知某个随机样本满足某种 概率分布 ，但是其中具体的参数不清楚， 参数估计 就是通过若干次试验，观察其结果，利用结果推出参数的大概值。

极大似然估计是建立在这样的思想上：已知某个参数能使这个样本出现的概率最大，我们当然不会再去选择其他小概率的样本，所以干脆就把这个参数作为估计的真实值。 当然极大似然估计只是一种粗略的 数学期望 ，要知道它的误差大小还要做区间估计。 求解步骤 1.求极大似然函数估计值的一般步骤： （1） 写出 似然函数 ； （2） 对似然函数取对数，并整理； （3） 求 导数 ； （4） 解似然方程 。 2.利用高等数学中求 多元函数 的极值的方法

(4条消息) 最小二乘法的原理理解_胤风的博客-CSDN博客_最小二乘法原理

联合概率 == 概率的乘积 == 用log转乘积为累加 == 求导数去系数和常数 == 极大似然同等于最小二乘法（最小的误差平方）