随着业务量增大,当一张表存储达到了千万级以上时,对数据库表操作就会影响程序性能。这个时候就需要进行对数据表进去区分。
分表的好处
分表后,单表的并发能力提高了,磁盘I/O性能也提高了,写操作效率提高了
查询一次的时间短了
数据分布在不同的文件,磁盘I/O性能提高
读写锁影响的数据量变小
插入数据库需要重新建立索引的数据减少
分表策略
一旦涉及到分表,那么就会涉及到分表的策略。分表策略通常会结合我们的业务来指定。
1、时间维度
如果只是随着时间推移,表中数据增加,那么可以利用时间维度进行分表。按时间维度,
可以根据数据量来指定,按天,按月,按年等。
2、用户维度
但是如果涉及到用户的数据,比如订单数据,可以利用用户的手机号作为划分维度,根据手机号进行hash,取模。具体对多大的值进行取模则取决于预估数据量,根据预估数据量来进行分表。
3、我们这次的分表是记录每个订单的状态,作为一个历史记录来使用的,所以我们是通过订单进行分表的维度划分的。对订单号进行取模。
分表策略是一个很灵活的事情,主要参考我们的业务,预估请求量。以及支持访问的时间范围等因素来制定。
分表方案
在项目中使用了mango对mysql的分表进行支持包括增删改查等相关操作。
官网地址:
具体的实现方案可以到官网上去查看。
这里记录一下我们按照订单号进行分表操作的一个实现方案。跟官网的步骤一样。
1、首先需要引入相关的jar包。
<dependency>
<groupId>org.jfaster</groupId>
<artifactId>mango</artifactId>
<version>1.6.1</version>
</dependency>
<dependency>
<groupId>mysql</groupId>
<artifactId>mysql-connector-java</artifactId>
<version>5.1.29</version>
</dependency>
2、配置好相关数据库连接
java连接数据源方式
```
public static void main(String[] args) {
String driverClassName = "com.mysql.jdbc.Driver";
String url = "jdbc:mysql://localhost:3306/mango_example";
String username = "root"; // 这里请使用您自己的用户名
String password = "root"; // 这里请使用您自己的密码
DataSource ds = new DriverManagerDataSource(driverClassName, url, username, password);
Mango mango = Mango.newInstance(ds); // 使用数据源初始化mango ,这里把之前的Connection换成了mango
}
```
mango框架对java标准数据源 javax.sql.DataSource 进行了简单实现。所以不需要引入其他包。整体配置跟正常连接mysql数据库一致。
3、dao数据库操作语句
@DB(name = "dataBase", table = "record_table")
@Sharding(tableShardingStrategy = PartnerOrderStatusCallBackRecordStrategy.class)
public interface PartnerOrderStatusCallBackRecordDao {
String COLUMNS="channel_num,original_order_no,current_order_no,status,status_name,create_time";
String COLUMNS_INTSERT="channel_num,original_order_no,current_order_no,status,status_name";
@ReturnGeneratedId
@SQL("insert into #table("+COLUMNS_INTSERT+") values "+
"(:1.channelNum,:1.originalOrderNo,:1.currentOrderNo,:1.status,:1.statusName)")
int insert(@TableShardingBy("originalOrderNo")PartnerOrderStatusCallBackRecord partnerOrderStatusCallBackRecord);
@SQL("select "+COLUMNS +" from #table where original_order_no=:1.originalOrderNo and status_name=:1.statusName")
PartnerOrderStatusCallBackRecord select(@TableShardingBy("originalOrderNo") PartnerOrderStatusCallBackRecord partnerOrderStatusCallBackRecord);
}
解析:@DB注解来标明使用的数据库。name:数据库名称,table对应的数据库表
@Sharding注解用来标明分表相关的信息。tableShardingStrategy这个指向我们具体的分表策略。
insert和select方法中的@TableShardingBy 来指明我们是通过具体的哪个字段来进行分表存储的,
即上面提到的分表维度。
4、分表策略
public class PartnerOrderStatusCallBackRecordStrategy implements TableShardingStrategy<String> {
@Override
public String getTargetTable(String table, String shardingParameter) {
int tableNum=(Math.abs(shardingParameter.hashCode()) % 100)+1 ;
return table+"_"+tableNum;
}
}
这里的 table 就是我们上面传入的table参数,shardingParameter就是我们传入的订单号,分表参数。返回操作的表名称。
以上就是利用mango对mysql进行分表的整个过程。按照上面的步骤操作完成以后,其他步骤就跟我们正常开发流程一样啦。