1.redis cluster是一种服务器sharding分片技术。sharding采用slot(槽)的概念,一共分16384个槽,进入每个redis的键值对,根据key进行散列,分配到这个16384个slot中的某个。使用CRC16后16384取模。redis cluster每个node负责分摊这16384个slot中的一部分;动态添加或减少node时,需要将16384个槽重新分配,槽中的键值也要迁移;node发生故障时,它负责的slots也就失效,整个redis cluster不能工作,建议每个node都配置成主从结构。即一个master多个slave节点。
所有的redis节点彼此互联(ping-pong),内部使用二进制协议传输
节点fail是通过集群中超过半数的节点检测失效才生效
客户端与redis直连,客户端不需要连接集群所有节点,连接集群任何一个可用节点即可
redis-cluster把所有物理节点映射到[0-16383]slot上,cluster维护node<>slot<>value
2.redis sharding是一种客户端sharding分片技术。
主要思想是采用hash算法将redis数据的key进行散列,通过hash函数将特定key映射到特定的redis上。
使用一致性hash主要原因是当增加或减少节点时,不会产生由于重新分配造成的rehashing。一致性hash只影响相邻节点key分配。并通过增加虚拟节点,让key在各redis节点分布更均匀。
3.利用代理中间件实现大规模redis集群
twemproxy是一种中间件sharding分片技术,处于客户端和服务器中间,将客户端发来的请求,进行一定处理后,再转发给后端redis服务器。使用中间件,twemproxy可以通过共享与后端系统的连接,降低客户端直连后端服务的连接数,同时提供sharding功能,支持后端服务器集群水平扩展,对客户端透明,也能够方便统一运维。使用中间件,相比客户端直连,性能会有损耗。大约减低20%。