mysql proxy 性能_MySQL Proxy的sharding方案介绍

MySQL Proxy的sharding方案介绍

到现在为止，开源的MySQL Proxy已经有几款了，有的已经在生产环境上广泛应用。但是在sharding方面，这些proxy都是不能分子表的。那即是说，一个node节点只能分一张表。但是我们的线上需求通常是这样的：

我有一张非常大的表，行数超过十亿，需要进行拆分处理。假比拆分因子是512。 若采用单node单数据库的分表方式，那其实这512个子表还是存在一个物理节点上，这些意义不大。 若采用他们的sharding功能，就需要512个物理节点，也不现实。现有的proxy 在面对这种需求下就不能很好地满足要求了。通常我们希望将512张子表均分在几个MySQL节点上，从而达到系统的横向扩展。

然而kingshard较好地实现了这种典型的需求。简单来说，kingshard的分表方案采用两级映射的方式：kingshard将该表分成512张子表，比如：test_0000,test_0001,…test_511。

将shardKey通过hash或者range方式定位到其要操作的记录在哪张子表上。

子表落在哪个node上通过配置文件设置。

一、sharding支持的操作

目前kingshard(https://github.com/flike/kingshard) sharding支持以下几种语句：insert

delete

select

update

replace

所有这五类操作都支持跨子表。但是写操作仅支持单node上的跨子表，select操作则可以跨node，跨子表。

二、sharding方式

1.range方式

基于整数范围划分来得到子表下标。该方式的优点与缺点：优点：基于范围的查询或更新速度快，因为查询(或更新)的范围有可能落在同一张子表中。这样可以避免全部子表的查询(更新)。

缺点：数据热点问题。因为在一段时间内整个集群的写压力都会落在一张子表上。此时整个mysql集群的写能力受限与单台mysql server的性能。并且，当正在集中写的mysql 节点如果宕机的话，整个mysql集群处于不可写状态。基于 range方式的分表字段类型受限。

2.hash方式

kingshard采用(shardKey%子表个数)的方式得到子表下标。该方式的优点与缺点：优点：数据分布均匀，写压力会比较平均地落在后端的每个MySQL节点上，整个集群的写性能不会受限于单个MySQL节点。并且当某个分片节点宕机，只会影响到写入该节点的请求，其他节点的写入请求不受影响。分表字段类型不受限。因为任何一个类型的分表字段，都可以通过一个hash函数计算得到一个整数。

缺点：基于范围的查询或更新，都需要将请求发送到全部子表，对性能有一定影响。但如果不是基于范围的查询或更新，则性能不会受到影响。

三、sharding相关的配置介绍

在配置文件中，有关sharding设置是通过scheam设置，相关代码已给出，如图1所示：

schemas :

图1

一个kingshard实例只能有一个schemas，我们从图1的配置可以看出，schema可以分为三个部分：db：表示这个schemas使用的数据库。

nodes：表示子表分布的节点名字。

rules：sharding规则。

其中rules又可以分为以下三个部分：- default，默认分表规则。所有操作不在shard(default规则下面的规则)中的表的SQL语句都会发向该node。

- hash，hash分表方式。

- range，range分表方式

四、kingshard架构图

1.基于kingshard的子表迁移方案

通过kingshard可以非常方便地动态迁移子表，从而保证MySQL节点的负载压力不至于太大。大致步骤有以下几步：通过自动数据迁移工具开始数据迁移。

数据差异小于某一临界值，阻塞老子表写操作(read-only)

等待新子表数据同步完毕

更改kingshard配置文件中的对应子表的路由规则。

删除老节点上的子表。

2.举例

简单演示一下kingshard的相关操作，感兴趣的朋友可以自己试一试。:)相关代码已给出，如图2所示：

图2