MyCat分片算法学习

本文详细介绍了Mycat的多种分片算法,包括枚举、固定分片Hash、范围约定、取模、按日期分片等,并探讨了它们的优缺点和适用场景。还提到了冷热数据分片、自然月分片以及一致性哈希等策略,指出这些算法在应对数据扩容和分布均匀性方面的作用。作者计划进一步研究和试验不同分片算法的实际效果。
摘要由CSDN通过智能技术生成

1 分片枚举

1.1 官方文档

通过在配置文件中配置可能的枚举id,自己配置分片。
这种规则适用于特定的场景,比如有些业务需要按照省份或区县来做保存,而全国的省份区县固定的,这类业务使用这一规则。配置如下

<tableRule name="sharding-by-intfile">
    <rule>
        <columns>user_id</coulumns>
        <algorithm>hash-int</algorithm>
    </rule>
</tableRule>
<function name="hash-int" class="org.opencloudb.route.function.PartitionByFileMap">
    <property name="mapFile">partition-hash-int.txt</property>
    <property name="type">0</property>
    <property name="defaultNode">0</property>
</function>

partition-hash-int.txt配置:

10000=0
10010=1
DEFAULT_NODE=1

上面columns标识将要分片的表字段,algorithm分片函数。
其中分片函数配置中,mapFile标识配置文件名称,type默认值为0,0标识Integer,非零标识String,所有的节点配置都是从0开始。

defaultNode默认节点:小于0表示不设置默认节点,大于等于0表示设置默认节点
默认节点的作用:枚举分片时,如果碰到不识别的枚举值,就让它路由到默认节点
如果不配置默认节点,碰到不识别的枚举值就会报错


2 固定分片hash算法

2.1 官方文档

本条规则类似于十进制的求模运算,区别在于是二进制的操作,是取id的二进制低10位(why?)
此算法的有点在于,如果按照10进制取模运算,在连续插入1-10时他们会把分到1-10个分片,增大了插入的事务控制难度,而此算法根据二进制则可能会分到连续的分片,减少事务控制难度

<tableRule name="rule1">
    <rule>
       <columns>user_id</columns>
       <algorithm>func1</algorithm>
    </rule>
</tableRule>

<function name="fuc1" class="org.opencloudb.route.function.PartitionByLong">
    <property name="partitionCount">2,1</property>
    <property name="partitionLength">256,512</property>
</function>

配置说明:
partitionCount分片个数列表,partitionLength分片范围列表
分区长度:默认为最大1024,即最大支持1024分区
1024 = sum((count[i]*length[i])). count 和 length 两个向量的点积恒等于 1024

2.2 个人笔记

即,按照上文的例子来说,将一个表分为1024块,前两份分别拿走256块,第三份拿走512块。
意义不明,使用string字段分片时,根据配置的分片规则,只和最后一个字母和倒数第二个字母的部分有关。
只能作用在纯数字的列上。好处可以理解,似乎只能适用在id之类的字段上。如文档中所说,适合在连续插入的时候使用。
这种分片方法适用在什么地方依旧有待研究


3 范围约定

3.1 官方文档

此分片适用于提前规划好分片字段某个范围属于哪个分片
start <= range <= end.
range start-end, data node index
K=1000, M=10000.

<tableRule name="auto-sharding-long">
    <rule>
        <columns>user_id</columns>
        <algorithm>rang-long</algorithm>
    </rule>
</tableRule>
<function name="rang-long" class="org.opencloudb.route.function.AutoPartitionByLong">
    <property name="mapFile">autopartition-long.txt</property>
    <property name="defaultNode">0</property>
</function>
    0-500M=0
    500M-1000M=1
    1000M-1500M=2

3.2 个人笔记

将数值类型临近的数据分在一起。如果能获得某条数据具体在哪个分片表中,就可以简化全局排序(需要去查查看
**分片依据的数值改变超过分片界限后是否会重新分布?(需验证)**

分片依据的那一列数据无法改变,用处瞬间变小。

4 取模

4.1 官方文档

此规则为对分片字段求模运算。

<tableRule name="mod-long">
    <rule>
        <columns>user_id</columns>
        <algorithm>mod-long</algorithm>
    </rule>
</tableRule>
<funciton name="mod-long" class="org.opencloudb.route.function.PartitionByMod">
    <property name="count">3</property>
</funciton>

此种配置非常明确地根据id进行十进制取模运算,相比固定分片hash,这种方法在批量插入时可能存在批量插入单事物插入多数据分片,增大失误一致性难度。

4.2 个人笔记

缺点有了,优点在哪儿??


5 按日期(天)分片

5.1 官方文档

<tableRule name="sharding-by-date">
    <rule>
        <columns>creat
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值