SpringBoot集成ShardingSphere 实现分库分表(按我教程100%实现功能,查询请求1秒内)

提示:文章写完后,目录可以自动生成,如何生成可参考右边的帮助文档


前言

今年上半年,公司找外包做了一个项目,设备抄表的,刚开始倒是没有什么问题,但是运行几个月之后项目查询非常慢,时常服务崩溃。外包做完拍拍屁股走人了,后来我就接下了这个坑。

先说下项目基本配置:阿里云ECS 4核16GB,数据库自装mysql5.7数据库,单机版


针对查询慢,原因很多,我分析步骤如下:

1、sql语句过于复杂,恨不得一个sql实现所有的功能,立马进行拆分,对于简单查询类的尽量减少连表查询,可以适量使用冗余字段。

2、子查询过多,去掉子查询,改用其他方案实现业务,比如java代码实现

3、建立合适的索引,根据业务规则,建立独立索引,联合索引,优先考虑联合索引。

4、数据库参数优化(这个没有做,直接购买了阿里云RDS)

5、集成 ShardingSphere-jdbc(本文重点)

一、ShardingSphere是什么?

Apache ShardingSphere 是一套开源的分布式数据库解决方案组成的生态圈,它由 JDBC、Proxy 和 Sidecar(规划中)这 3 款既能够独立部署,又支持混合部署配合使用的产品组成。 它们均提供标准化的数据水平扩展、分布式事务和分布式治理等功能,可适用于如 Java 同构、异构语言、云原生等各种多样化的应用场景。

官网地址:ShardingSphere

二、使用步骤

1.引入库

<dependency>
			<groupId>org.apache.shardingsphere</groupId>
			<artifactId>sharding-jdbc-spring-boot-starter</artifactId>
			<version>4.1.1</version>
		</dependency>


2.配置properties

####################shardingsphere数据分片######################
spring.shardingsphere.datasource.names=ds0
#数据源配置
spring.shardingsphere.datasource.ds0.type=com.alibaba.druid.pool.DruidDataSource
spring.shardingsphere.datasource.ds0.driver-class-name=com.mysql.cj.jdbc.Driver
spring.shardingsphere.datasource.ds0.url=jdbc:mysql://127.0.0.1:3306/test?characterEncoding=utf8&allowMultiQueries=true&serverTimezone=Asia/Shanghai
spring.shardingsphere.datasource.ds0.username=root
spring.shardingsphere.datasource.ds0.password=root

#分表规则
spring.shardingsphere.sharding.tables.meter_reading_record.actual-data-nodes=ds0.meter_reading_record_$->{0..9}
spring.shardingsphere.sharding.tables.meter_reading_record.table-strategy.inline.sharding-column=meter_id
spring.shardingsphere.sharding.tables.meter_reading_record.table-strategy.inline.algorithm-expression=meter_reading_record_$->{meter_id % 10}
#主键分片策略
spring.shardingsphere.sharding.tables.meter_reading_record.key-generator.column=meter_id
spring.shardingsphere.sharding.tables.meter_reading_record.key-generator.type=SNOWFLAKE
#公共表
spring.shardingsphere.sharding.binding-tables=location,instrument,instrument_type
#是否打印SQL
spring.shardingsphere.props.sql.show=true
#支持范围查询
spring.shardingsphere.props.allow.range.query.with.inline.sharding=true

3、建立分库或分表的表

因为这个项目数据量巨大,每月大约400W,所有我分了10个表,具体多少合适,看你们自己项目的业务量。 


总结

这里就说一下,我集成过程中遇到的坑,然后怎么解决的,希望对广大朋友有帮助

1、sharding-jdbc是一个增强版的jdbc驱动,它实质上是对我们写的sql进行了包装解析,所以它有很多限制性,比如子查询不允许,你写了要么查询报错,要么查询出来结果不对没有数据。因为官方也没有给出解决方案,所以我是改写的sql,去掉子查询

2、注意版本和依赖问题,现在官网好像更新到5.0了。但是对应springboot的版本还有依赖的ant版本也要注意,我现在用的是4.1.1,对应的springboot是2.2.3,ant版本4.7。否则各种报启动错误,恶心。

3、分表的话不是越多越好,它的原理本来就是每个分库或分表查,然后统一汇总,你分多了,一样是性能低下。合适就好。

4、和mycat或sharding-proxy代理相比,各有优缺点,这里就不做比较了,我的推荐是如果你的业务不过复杂可以优先选择上面的代理,毕竟直接配置下就好;但是如果业务简单,没有复杂的sql业务可以选择shardingsphere-jdbc,因为这个直接和数据库交互,没有代理层,理论上性能更高些。

5、分库分表不应该作为数据量查询优化的最先选择,可以多试着优化sql和业务,实在不行再集成这个

6、对于不常用数据,不变化数据,做归档处理

7、如果还是查询慢,可以使用elasticsearch或者大数据的hbase(如果本文反响可以,可以出一个hbase手把手教程)

  • 1
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
ShardingSphere:SpringBoot2+MybatisPlus+读写分离+分库分表课程目标快速的掌握读写分离+分表的实战,即插即用适用人群IT从业人员,开发人员,Java从业者,互联网从业者,性能调优人群课程简介ShardingSphere是一套开源的分布式数据库中间件解决方案组成的生态圈。它由Sharding-JDBCSharding-Proxy和Sharding-Sidecar(计划中)这3款相互独立的产品组成,shardingSphere定位为关系型数据库中间件。 Sharding-JDBCSharding-JDBCSharding-Sphere的第一个产品,也是Sharding-Sphere的前身,是当当网开源的一个产品。定位为轻量级的Java框架,在JavaJDBC层提供额外服务。 它使用客户端直连数据库,以jar包形式提供服务,无需额外部署和依赖,可理解为增强版的JDBC驱动,完全兼容JDBC和各种ORM框架。他们均提供标准化的数据分片、读写分离、柔性事务和数据治理功能,可适用于如Java同构、异构语言、容器、云原生等各种多样化的应用场景。Sharding-JDBC可以通过Java,YAML,Spring命名空间和Spring Boot Starter四种方式配置,开发者可根据场景选择适合的配置方式。课程特色 本章节以尽量短的时间,为使用者提供最简单的ShardingSphere的快速入门。课程说明该课程属于系列课程,分为读写分离,分库不分表,不分库分表分库分表,读写分离+分库分表共5个回合。本课程属于其中一个回合,请各位小哥哥们注意,课程的标题哦~
Spring Boot整合ShardingSphere,实现数据库分库分表的步骤如下: 1. 引入ShardingSphere的相关依赖: ```xml <dependency> <groupId>org.apache.shardingsphere</groupId> <artifactId>sharding-jdbc-core</artifactId> <version>${shardingsphere.version}</version> </dependency> <dependency> <groupId>org.apache.shardingsphere</groupId> <artifactId>sharding-jdbc-spring-boot-starter</artifactId> <version>${shardingsphere.version}</version> </dependency> ``` 2. 配置ShardingSphere的数据源 在application.yml中进行配置,示例代码: ```yaml spring: shardingsphere: datasource: names: ds0, ds1 ds0: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://localhost:3306/test0?serverTimezone=UTC&useSSL=false&useUnicode=true&characterEncoding=utf-8 username: root password: root ds1: type: com.zaxxer.hikari.HikariDataSource driver-class-name: com.mysql.cj.jdbc.Driver jdbc-url: jdbc:mysql://localhost:3306/test1?serverTimezone=UTC&useSSL=false&useUnicode=true&characterEncoding=utf-8 username: root password: root sharding: tables: order: actualDataNodes: ds$->{0..1}.order_$->{0..1} tableStrategy: inline: shardingColumn: order_id algorithmExpression: order_$->{order_id % 2} keyGenerateStrategy: column: order_id keyGeneratorName: snowflake default-key-generator: type: SNOWFLAKE worker-id: 123 ``` 其中,`names`字段指定数据源的名称,`ds0`和`ds1`则为具体的数据源配置,`actualDataNodes`字段指定了数据表的实际节点,`tableStrategy`字段指定了分表策略,`keyGenerateStrategy`字段指定了键生成策略。 3. 配置ShardingSphere的规则 ```yaml spring: shardingsphere: sharding: default-database-strategy: inline: shardingColumn: user_id algorithmExpression: ds$->{user_id % 2} ``` 其中,`default-database-strategy`字段指定了分库策略,`inline`表示使用取模算法进行分库,`shardingColumn`字段指定了分库的列名。 4. 在代码中使用 在代码中使用时,只需要正常使用JPA或Mybatis等ORM框架即可。ShardingSphere会自动根据配置进行数据分片。 以上就是Spring Boot整合ShardingSphere实现数据库分库分表的步骤。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值