[Python嗯~机器学习]---一句话解释机器学习中的极大似然估计和最小二乘法

极大似然估计和最小二乘法

用先验分布是高斯分布的噪声做一下问题

假设我们给定了样本，用一个直线或平面或其他的数学形式描述，但是真实的点和模型的上的点总是有误差，
我们把误差作为噪声，看做是一个符合高斯分布的一组误差。

样本是独立的，我们的噪声也是独立的，所以就是独立同分布的一组数据。因为影响误差的是大量的相互影响
的因素决定的，按照中心极限定理误差就是最正常状态的分布，就是正态分布，也叫高斯分布。


通过噪声的概率密度函数变换就可以得到一个关于参数 θ 的似然函数。
我们现在是有了样本，那么我们本着存在即合理的目的来去逆推，到底怎么样能更大概率获得我们已经取得的样本
或者说找一组参数来确保获得我们的样本。
这时候，我们可以明显的看出似然函数越大得到样本中Y的概率越大，这就是最大似然估计。
变换之后得到最后面的公式，求它的最小值，就叫做最小二乘法。