使用spy memcached导入大量数据到memcache server中,避免Out Of Memory错误。

MemcachedClient的set方法其实是异步的。 并不是当set执行完时, 数据就已经存在server上了。所以set的返回值是Future<Boolean>, 你可以通过这个值来判定是否已经保存到server上了。可以通过以下的代码来确认值已经保存到server了。

Future<boolean> b = client.set("testkey",3600,"value");
boolean done = false;
do{
Thread.sleep(200);
done = b.get().booleanValue();
}while(!done);
System.out.println("value has been saved.");



MemcachedClient在本地存在一个队列,这个队列存放着需要set的任务。如果你需要一次调用非常多次的set方法的话, 这时候就会发生out of memory的error。解决办法就是调用waitForQueues方法。 如下:

    public void testPutBatchContent(){

long start = System.currentTimeMillis();
for (int i = 0; i < 100000; i++) {
client.set("testkey" + i, 0, content);
if (i % 10000 == 0) {
System.out.println("finished. " + i);
boolean b = client.waitForQueues(300, TimeUnit.SECONDS);
System.out.println("finished. " + b);
}
}
boolean b = client.waitForQueues(300, TimeUnit.SECONDS);
System.out.println("Costs " + (System.currentTimeMillis() - start) + " ms.");
}


waitForQueues方法会等待队列完全被消费掉。 有个参数可以设置timeout时间。 我这里是300秒。总共要set10万次, 每10000次就让队列消费掉。这样就不会发生out of memory的问题了。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值