php读取redis数据,php读取文件使用redis的pipeline(管道)导入大批量数据

需求:需要做一个后台上传TXT文件,读取其中的内容,然后导入redis库中。要求速度快,并且支持至少10W以上的数据,而内容也就一个字段存类似openid和QQ

传统做法:我一开始做的时候就老套路,遍历、hset,然后就发现非常的慢,一千条数据就花了30-32秒,当时就觉得不行,于是就请教了一个大佬,然后就得知了方法

7d9ce14dddf55c20f1cff5194e82265d.png

我生成了20W的数据用来做测试,文件大小6M多。

话不多说,直接贴代码了

laugh.gif

$lines  = file_get_contents($_FILES['file']['tmp_name']);//获取文件内容

ini_set('memory_limit', '-1');//不要限制Mem大小,否则会报错

$line   = explode("\r\n",$lines);//转换成数组

//实例化redis

$redis = new Redis();

//连接

$redis->connect('127.0.0.1', 6379);

$redis->pipeline();//开启管道

if(!$redis){

throw new Exception('redis连接失败!',1);

}

$key   = $info['key'];

$c     = 0;

$count = count($line);

$now   = time();

for($i=0;$i

$res = $redis->hset($key,$line[$i],1);

if($res){

$c ++;

}

}

$redis->exec();

使用结果:

70d18e867b556a5bfb35bc90dfad42e9.png

哈哈,即使就直接用time()方法获取的,是计秒的,没有毫秒那种效果,不过也可以看出来确实是非常的快,20W的数据不到两秒就存进去了

其实整个代码都非常简单,能让redis快速导入的就是一个点“pipeline”,开启了这个就可以了。哈哈以前没有用过,所以就小小的记录一下。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值