PRML--Bayesian probabolitis

PRML(P40)


考虑使用多项式

y(x,w)=w0+w1x+w2x2+...+wMxM=j=0Mwjxj

拟合给定数据,我们将 w 用概率p(w)表示,给定数据集 D=t1,t2,...tn 状态则可以用概率表示为 p(D|w) 。由贝叶斯公式
p(w|D)=p(D|w)p(w)p(D)

p(w|D)可以用来表示w的不确定性。
上式中的右侧 p(D|w) 可以看作为 D 的数据或者向量W的表达,这里把 W 叫做似然函数,这样我们可以把等式右边看成两部分
posteriorlikelihood×prior

D 的分布可表示为
p(D)=p(D|w)p(w)dw

对应前文,等式右边的两项,一项是似然函数,一项是 w 的分布。当似然函数p(D|w)取最大时,w为最佳拟合。恰好在传统的机器学习框架里似然函数的负自然对数与误差函数等价。——负对数为单调递减,最大似然可使损失最小。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值