极大似然估计与(广义)线性模型的关系

本文探讨了极大似然估计在(广义)线性模型中的作用,以正态分布为例,解释了如何将线性模型的预测值μ_i代入概率密度函数,并通过极大似然估计求解参数。还介绍了广义线性模型的连接函数概念,以及指数分布族在其中的应用。最后提到了优化参数的几种方法,如梯度下降法和牛顿法。
摘要由CSDN通过智能技术生成

起因:
       在学习(广义)线性模型的时候一直有个疑问,就是不明白(广义)线性模型与密度函数的关系,以及怎么运用极大似然估计参数,不知道大家有没有类似的疑问?

正题:
       以正态分布为例,已知正态分布的概率密度分布函数如下:
正态分布密度函数
函数中的μ以及σ分别代表均值和标准差,但与线性模型又有什么关系呢?在线性模型里假设因变量方差相同,故标准差σ可以看做一个常数,变的是μ_i,其中i表示第i个样本。以下为线性模型公式,μ_i为线性模型的预测值,a向量为线性模型的参数,此处省略截距项b:
线性模型
由此代入正态分布的概率密度函数中,可得新的概率函数:
在这里插入图片描述
有了以上的概率函数,就能使用极大似然估计,然后使其偏导为0,并求出参数向量a的值。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值