我们得到一堆数据(xi,yi),这组数据的分布模型是已知的,那么每组数据的分布概率是已知的,这是采用最大似然估计的前提,现在要用线性方程的形式去做回归,线性方程结构为:y=f(x)+e,其中f(x)=w*x,w是我们要进行估计的参数向量,e是噪声,且该噪声服从均值为0高斯分布,即:e~N。 假如说现在有一个w(此w并不是最终的w),对于每一个实际得到的数据我们都可以看成是由均值为w*xi,方差为的一个高斯模型生成的。但是在w不定的情况下,高斯模型有无数中可能,我们需要从中选择一个我们想要的,而选择需要一个准则,该准则就是:使得在该模型下生成我们获得的数据的可能性最大。 将每一个数据产生的概率连乘起来(似然函数),将该值最为总的数据产生的可能性,对于数值y由于噪声的存在服从高斯分布,我们利用似然估计的方法来估计y,所以该方法本质上是将回归方程转化为条件似然,将回归参数作为模型分布的均值,然后用似然估计的方法来估计均值,进而获取回归参数。
关于最大似然求解线性回归的理解
最新推荐文章于 2023-02-11 15:22:36 发布