关于最大似然求解线性回归的理解

我们得到一堆数据(xi,yi),这组数据的分布模型是已知的,那么每组数据的分布概率是已知的,这是采用最大似然估计的前提,现在要用线性方程的形式去做回归,线性方程结构为:y=f(x)+e,其中f(x)=w*xw是我们要进行估计的参数向量,e是噪声,且该噪声服从均值为0高斯分布,即:e~N 假如说现在有一个w(w并不是最终的w),对于每一个实际得到的数据我们都可以看成是由均值为w*xi,方差为的一个高斯模型生成的。但是在w不定的情况下,高斯模型有无数中可能,我们需要从中选择一个我们想要的,而选择需要一个准则,该准则就是:使得在该模型下生成我们获得的数据的可能性最大。 将每一个数据产生的概率连乘起来(似然函数),将该值最为总的数据产生的可能性,对于数值y由于噪声的存在服从高斯分布,我们利用似然估计的方法来估计y,所以该方法本质上是将回归方程转化为条件似然,将回归参数作为模型分布的均值,然后用似然估计的方法来估计均值,进而获取回归参数。

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值