基本概念
这几天在研究分表分库的方案。综合了几种数据库方案。
最后选型Sharding-jdbc。它主要有如下几个优点。
- 支持分布式事务
- 适用于任何基于Java的ORM框架。
- 对业务零侵入。
数据分片
数据分片是指按照某个维度将存放在单一数据库中的数据分散地存放至多个数据库或者表中以达到提升性能瓶颈以及可用性的效果。数据分片有效手段是对关系型数据库进行分库和分表。分表可以降低每个单表的数据阈值,同时还能够将分布式事务转化为本地事务的。分库可以有效的分散数据库单点的访问量。
分片键
用于分片的数据库字段,是将数据库(表)进行水平拆分的关键字段。例如:将订单表中的订单主键的尾数取模分批拿,则订单主键就是分片字段,SQL中如果没有分片字段,则执行全库路由,性能较差。Sharding-JDBC也支持多个字段进行分片。
分片策略和分片算法
Sharding-JDBC 中共有五种分片策略。1、标准分片策略;2、复合分片策略;3、行表达式分片策略;4、Hint分片策略;5、不分片策略;对应的有4种分片算法,1、精确分片算法;2、范围分片算法;3、复合分片算法 ;4、Hint分片算法;
分片算法:
Sharding-JDBC并没有提供内置分片算法,而是通过分片策略将各种场景提炼出来,提供更高层次的抽象,并提供接口让应用开发者自行实现分片算法。
分片策略:
包含分片键和分片算法,由于分片算法的独立性,将其独立抽离。真正可用于分片操作的是分片键+分片算法,也就是分片策略。
分片策略 | 概念 | 分片算法 | 概念 | 适用场景 |
---|---|---|---|---|
标准分片策略 | 对应StandardShardingStrategy,只支持单分片键,提供对SQL语句中的=,IN和BETWEEN AND的分片操作支持,提供PreciseShardingAlgorithm和RangeShardingAlgorithm两个分片算法。 | 精确分片算法 | 对应PreciseShardingAlgorithm | 适用于单分片键的= 和IN进行分片的场景。需要配合StandardShardingStrategy使用 |
标准分片策略 | 范围分片算法 | 对应RangeShardingAlgorithm | 适用于单分片键的BETWEEN AND进行分片的场景,需要配合StandardShardingStrategy使用 | |
复合分片策略 | 对应ComplexShardingStrategy。听过对SQL语句中的=,IN的分片操作支持。由于多分片键之间的关系复杂,因此并未进行过多的封装,而是直接将分片键组合以及分片操作符透传至分片算法 | 复合分片算法 | 对应ComplexKeysShardingAlgorithm | 适用于多分片键的情况,需要配合ComplexShardingStrategy使用 |
Hint分片策略 | 对应HintShardingStrategy。通过Hint而非SQL解析的方式分片的策略。 | Hint分片算法 | 对应HintShardingAlgorithm | 适用于使用Hint分片的场景,需要配合HintShardingStrategy使用 |
Hint分片策略 | 对应InlineShardingStrategy。使用Groovy的表达式,提供对SQL语句中的=和IN的分片操作支持,只支持单分片键。对于简单的分片算法,可以通过简单的配置使用,从而避免繁琐的Java代码开发,如: t_user_$->{u_id % 8} 表示t_user表根据u_id模8,而分成8张表,表名称为t_user_0到t_user_7。 |
Sharding-JDBC与SpringBoot整合策略
总体说明
本实例是结合相关项目来的,在该项目中订单id(orders_id)是一个核心的热点字段。然后,订单号是带有日期的,所以,本次分片的方案是按照时间分库分表,时间粒度可以年,月,季度。本demo中的时间粒度是年。
引入依赖
<properties>
<sharding-sphere.version>4.0.0-RC1</sharding-sphere.version>
</properties>
<!--shardingsphere -->
<dependency>
<groupId>org.apache.shardingsphere</groupId>
<artifactId>sharding-core-api</artifactId>
<version>${sharding-sphere.version}</version>
</dependency>
<dependency>
<groupId>org.apache.shardingsphere</groupId>
<artifactId>sharding-jdbc-core</artifactId>
<version>${sharding-sphere.version}</version>
</dependency>
配置好依赖之后,接着就是配置数据源,以及数据的分片键,分片策略。在application.yml中配置如下
配置
#数据库连接
spring:
shardingsphere:
datasource:
names: shard_order_0,shard_order_1
shard_order_0:
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/shard_order_0
username: root
password: admin
shard_order_1:
driver-class-name: com.mysql.jdbc.Driver
url: jdbc:mysql://localhost:3306/shard_order_1
username: root
password: admin
# 如下对orders表和orders_detail都做了分片配置,分片键分别是id,orders_id,
sharding:
tables:
orders:
actualDataNodes: shard_order_$->{0..1}.orders_$->{0..1}
databaseStrategy:
inline:
shardingColumn: adddate
tableStrategy:
inline:
shardingColumn: id
orders_detail:
actualDataNodes: shard_order_$->{0..1}.orders_detail_$->{0..1}
tableStrategy:
inline:
shardingColumn: orders_id
如上可以看出,我这里配置了两个分库shard_order_0和shard_order_1;然后,每个分库下面又配置了两个逻辑表orders和orders_detail,每个逻辑表下有两个物理表。数据库的分片键是adddate,逻辑表orders的分片键是id,逻辑表orders_detail的分片键是orders_id。
。。。。。。。。。。。。。。。。。
版权原因,完整文章,请参考如下:Sharding-JDBC的实践