概率和似然的区别

概率是针对事件而言,已知某个事件的模型分布,判断某个事件发生的可能性称为概率

似然(likelihood) 是针对模型参数而言的,用来表征某个事件发生后,或者知道发生的频率,来表征某个参数取某个值的可能性的大小。

极大似然法就是已知事件的发生频率,想要估计模型参数,得到最有可能的那个参数值。

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
最小二乘法(Least Squares Method)和极大似然法(Maximum Likelihood Estimation,MLE)都是统计学中用于估计参数的重要方法,但它们的基本理念和应用场合有所不同。 **最小二乘法**: - 基本思想:这种方法通常用于线性回归问题,目标是最小化残差平方和,即实际值与预测值之间的差距的平方之和。它假设数据误差服从高斯分布,且均值为0,标准差已知或未知。 - 使用场景:当模型与真实关系存在线性偏差时,比如拟合一条直线(简单线性回归)或多项式曲线。 - 参数求解:通过求解含有待估参数的矩阵方程,找到使误差平方和最小化的参数组合。 **极大似然法**: - 基本思想:这种方法关注的是根据观测数据,寻找最有可能产生这些数据的模型参数。它是基于概率论中的似然函数,即给定模型参数的概率密度函数的最大值。 - 应用广泛:不仅限于线性模型,适用于各种离散或连续随机变量的模型,包括但不限于多项式分布、指数分布、正态分布等。 - 参数求解:寻找使得数据对数似然函数最大的参数值,通常涉及到数值优化方法如梯度上升或牛顿法。 **区别总结**: 1. 最小二乘法更侧重于误差的平方和最小化,而极大似然法则关注数据出现的概率最大。 2. 最小二乘法通常假定误差为线性和加性的,而极大似然法则更为灵活,适应不同类型的分布。 3. 最小二乘法直接求解最优参数,计算过程相对直观;极大似然法可能需要迭代求解,且结果依赖于初始猜测。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值