贝叶斯方法的一些思考

本文探讨了贝叶斯方法在概率论和机器学习中的应用,对比了频率主义与贝叶斯主义的概率解读。通过最大似然估计与最大后验概率估计的比较,解释了贝叶斯定理如何处理不确定性。举例说明了在赌博场景中,贝叶斯视角如何考虑未观察到的信息。文章最后讨论了贝叶斯方法的局限性,如计算复杂度和先验分布的主观性,解释了其未能成为主流的原因。
摘要由CSDN通过智能技术生成

两种概率解读

频率学派认为世界是确定的。他们直接为事件本身建模,也就是说某个事件的概率就是在重复无数次实验时,这个事件发生的频率的极限;

频率学派相信概率是一个确定的值,讨论概率的分布没有意义。虽然没有上帝视角,还不知道具体的概率值,但相信概率就是确定的,它就在那里。而数据是由这个确定的概率产生的,因此数据是随机的。

比如将一枚均匀的硬币抛掷10次,结果可能是10次都是正面,也可能10次都是反面,写成频率的话就对应着0%和100%这两个极端,代表着最大范围的波动。可如果将抛掷次数增加到100次,出现正面的次数依然会发生变化,但波动的范围更可能会收缩到40%到60%之间。再将抛掷次数增加到1000,10000的话,频率波动的现象不会消失,但波动的范围会进一步收缩到越来越小的区间之内。

 

频率学派口中的概率表示的是事件发生频率的极限值,它只有在无限次的独立重复试验之下才有绝对的精确意义。对于单次预测,比如某次抛硬币正面朝上的概率50%显然不是频率,那么这个数值应该怎么解释?我们还能不能说它是个概率?

纯粹贝叶斯主义者的回答是肯定的。这个数字就是根据我的数学模型得到的法国赢得世界杯的概率。换句话说,这个概率是主观的,它是模型的意见。

贝叶斯学派认为世界是不确定的,因获取的信息不同而异。概率表示的是客观上事件的可信程度(degree of belief),也可以说成是主观上主体对事件的信任程度,它是建立在对事件的已有知识基础上的。

贝叶斯认为待估计值的概率是随机的变量,而用来估计的数据反过来是确定的常数,讨论观测数据的概率分布才是没有意义的。

贝叶斯公式如下: 

 P(A|B)=\frac{P(B|A)P(A)}{P(B)}

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值