(三)Redis pipe

1.首先设置文本 bb.txt

SET Key0 Value0
SET Key1 Value1
...
SET KeyN ValueN
 

cat bb.txt | redis-cli -a  \#\#\!zggc123456  --pipe
批量导入  

 

2.  由于做性能测试,需要往redis中导出千万级的数据。得知redis-cli工具支持pipeline导入可以达到最佳性能。由于刚接触redis以及对文档的格式不是很了解,走了很多的弯路。

  从官方文档(http://redis.io/topics/mass-insert)我们可以得知数据格式。

Java代码 
*3\r\n            命令起始,定义共3个输入参数  
$3\r\n            下一个参数字节长度  
SET\r\n           命令参数  
$3\r\n             下一个参数字节长度  
key\r\n           变量参数  
$5\r\n            下一个参数字节长度  
value\r\n        值参数  

注意:此处的\r\n为换行符,不是输入的字符。  
    用记事本打开后,数据格式如下图所示:

Java代码 
/** 
     * 格式化成输入字符串 
     * @param args 
     * @return 
     */  
    private String getString(String... args){  
        StringBuilder sb = new StringBuilder();  
        sb.append("*").append(args.length).append("\r\n");  
        for(String arg : args){  
            sb.append("$").append(arg.length()).append("\r\n");  
            sb.append(arg).append("\r\n");  
        }  
        return sb.toString();  
    }  
      
    public void initFile2(){  
        String file= "G:\\2.txt";  
        BufferedWriter w = null;  
        StringBuilder sb = new StringBuilder();  
        try {  
            w = new BufferedWriter(new OutputStreamWriter(new FileOutputStream(file), "utf-8"));  
            for(int i=10000000 ;i <= 10100000;i++){  
                if(i/30000 == 0){  
                    w.flush();  
                }  
                sb.setLength(0);  
                sb.append(this.getString("hmset","usr"+i,"userid","usr"+i,"username","usrname"+i));  
                w.append(sb.toString());  
            }  
        } catch (UnsupportedEncodingException e) {  
            e.printStackTrace();  
        } catch (Exception e) {  
            e.printStackTrace();  
        } finally{  
            try {  
                w.flush();  
                w.close();  
            } catch (IOException e) {  
                e.printStackTrace();  
            }  
              
        }  
    }  
 

    最后,将生成的文本使用     cat 2.txt  | redis-cli --pipe ,导入的效率十分之高。本人在本本的虚拟机上,导入500万条个hashmap(7个KEY),花费43秒时间。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值