机器学习(六)采样方法

本文介绍了机器学习中的采样方法,包括蒙特卡洛积分、拒绝采样和重要性采样。蒙特卡洛积分利用大数定律近似复杂积分;拒绝采样通过提议分布和接受条件实现,但存在高拒绝率问题;重要性采样针对难以直接采样的分布,利用易采样分布进行转换。文章还提到了均匀分布和Box-Muller变换在生成随机数中的应用。
摘要由CSDN通过智能技术生成
机器学习(六)采样方法

6.1 蒙特卡洛数值积分
计算 f(x) f ( x ) 的积分时, baf(x)dx ∫ a b f ( x ) d x 复杂不好求,可采用蒙特卡洛积分来近似
思想:
   baf(x)dx=baf(x)q(x)q(x)dx ∫ a b f ( x ) d x = ∫ a b f ( x ) q ( x ) q ( x ) d x ,把 q(x) q ( x ) 作为概率分布, f(x)q(x) f ( x ) q ( x ) 作为函数
  在 q(x) q ( x ) 下抽取n个样本,当n足够大时,可以均值 1nif(xi)q(xi) 1 n ∑ i f ( x i ) q ( x i ) 来近似积分

证明:
   E(g(X))=xg(x)f(x) E ( g ( X ) ) = ∑ x g ( x ) f ( x ) ,已知X的概率分布为 f(x) f ( x ) g(x) g ( x ) 的概率分布未知,计算 g(x) g ( x ) 的期望
  令:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值