蓄水池采样

问题描述:

现实生活中有很多流式数据,在流式数据上采样可以抽象为:

设几个中元素个数为N,并且N在不断的增大,如何在集合中采集K个样本,使得每个样本被采集到的概率相等(K/N)?

蓄水池抽样法:

算法思路是,先构造一个可以放K个元素的池子,池子中一开始放元素1~k。

对于K+1~N 以K/N的概率决定是否被替换到池子中,遍历完所有元素后就可以得到一个等概率采样的K个元素,时间复杂度是O(N);

伪代码:

Init : a reservoir with the size: k
for    i= k+1 to N

    M=random(1, i);
        if( M <= k)
            SWAP the Mth value and ith value
end for

证明:

对小于等于K的元素,第一次被选中的概率是1,最后留在池子中的概率=它第一次被选中的概率 * 以后面它不被替换的概率:

     第一次随机的时候它被替换走的概率是  1/K+1 ,所以不被替换走的概率是  K/K+1 ,

     第二次随机的时候它不被替换走的概率是 K+1/K+2 .....

   所以最后留在池子中的概率是  : 1* (K/(K+1))*((K+1)/(K+2)).....(N-1)/N = K/N

对于大于K的元素J,被选中的概率是 K/J,后面不被替换的概率是 J/J+1   J+1/J+2 ......N-1/N 

   所以最后留在池子中的概率是: K/J*(J/J+1).......(N-1)/N = K/N

全部都是等概率的  

      

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值