我们都知道redis集群下对于mget、mset、pipeline、事务的支持不太好。
当然对于mget和mset有这么几种方法:
1、串行遍历key依次执行(这种就是把批量拆开了)
2、使用hash_tag包装key,在计算key的slot时候,如果key包含{},就会使用第一个{}内部的字符串作为hash key,这样就可以保证拥有同样{}内部字符串的key就会拥有相同slot(这种方式其实就是把一次批量操作的key全部放到了集群的一个节点进行操作,屏蔽掉多节点的问题)。
3、自己手动进行批量的key做处理,通过CRC16算法对所有的key进行分组(相同slot的分成一组),然后不同的分组keys,使用不同的集群节点进行处理。
本文就是适用了第三种方式,通过 pipeline来操作批处理,减少网络请求次数,加快处理速度。
使用jedis封装的工具类,源码也是分析的jedis。
1、通过源码看下原理
对于jedis,集群的操作使用的JedisCluster类,看下它的继承实现关系图:
通过继承实现管理可以看到,JedisCluster继承自 BinaryJedisCluster ,以及实现了其他接口。我们再查看下 BinaryJedisCluster源码。
在图中我们注意到:JedisClusterConnectionHandler 这个类,字面意思redis集群连接处理器,同时这个connectionHandler变量在此类中还没有公共的获取方法。我们再往后看,我们进去到JedisClusterConnectionHandler 源码看下。
这个类中有一个内部变量JedisClusterInfoCache cache,看着字面意思是Redis集群信息缓存,但是JedisClusterConnectionHandler中没有获取cache的公共方法,往下看下JedisClusterConnectionHandler中的方法,initializeSlotsCache()
这个变量中存储了所有的redis集群节点信息(包含了host和端口),那这里面有没有集群的其他信息呢?比如slots哈希槽数据,我们再看下JedisClusterInfoCache的源码。
看到这里相信你已经明白了,就是这个cache存储了redis集群节点数据和哈希槽对应的节点关系数据,同时这俩变量还是私有的,往下看下源码有没有直接获取这俩变量的方法呢,答案是看下图。
只有获取节点信息(host+ip对应的连接池数据集合)的方法,没有获取哈希槽对应的节点数据的方法。但是有通过slot获取节点连接池的方法,这个也是jedis中JedisCluster集群操作类可以处理集群操作的关键。我们通过getSlotPool(int slot)方法内部实现可以知道,slots集合中存储的关系就是slot对应redis集群节点连接池,这里就是我们后面实现集群下操作的关键,先记一下。
2、通过反射获取内部私有变量
反射的知识请自行百度下或者看下其他人的博客,简单说,它很强大,可以通过它获取这个类或对象中的任何东西,包含私有变量、方法。
直接看下代码实现:
String clusterNodes="172.16.16.90:16379,172.16.16.90:16380,172.16.16.91:16379,172.16.16.91:16380,172.16.16.92:16379,172.16.16.92:16380";
int redirects=3;
int timeOut=2000;
String[] serverArray = clusterNodes.split(",");
Set<HostAndPort> nodes = new HashSet<HostAndPort>();
for (String ipPort : serverArray) {
String[] ipPortPair = ipPort.split(":");
nodes.add(new HostAndPort(ipPortPair[0].trim(), Integer.valueOf(ipPortPair[1].trim())));
}
JedisCluster cluster=new JedisCluster(nodes, timeOut, redirects);
Field hfield = cluster.getClass().getDeclaredField("connectionHandler");//获的变量名为connectionHandler的变量
hfield.setAccessible(true);//打开访问权限
JedisClusterConnectionHandler connectionHandler = (JedisClusterConnectionHandler)hfield.get(cluster);
Field cfield = connectionHandler.getClass().getDeclaredField("cache");//获的变量名为cache的变量
cfield.setAccessible(true);//打开访问权限
JedisClusterInfoCache cache = (JedisClusterInfoCache)cfield.get(connectionHandler);
//获取ip+port对应的连接池
Map<String, JedisPool> nodes2 = cache.getNodes();//这个我们没怎么