什么是数据切分
数据拆分,就是指通过某种特定的条件,将我们存放在同一个数据库中的数据分散存放到多 个数据库(主机)上面,以达到分散单台设备负载的效果。
数据的切分(Sharding)根据其切分规则的类型,可以分为两种切分模式。一种是按照不同 的表(或者 Schema)来切分到不同的数据库(主机)之上,这种切可以称之为数据的垂直 (纵向)切分;另外一种则是根据表中的数据的逻辑关系,将同一个表中的数据按照某种条 件拆分到多台数据库(主机)上面,这种切分称之为数 据的水平(横向)切分。
垂直切分的最大特点就是规则简单,实施也更为方便,尤其适合各业务之间的耦合度非常低, 相互影响很小,业务逻辑非常清晰的系统。在这种系统中,可以很容易做到将不同业务模块 所使用的表分拆到不同的数据库中。根据不同的表来进行拆分,对应用程序的影响也更小, 拆分规则也会比较简单清晰。
水平切分于垂直切分相比,相对来说稍微复杂一些。因为要将同一个表中的不同数据拆分到 不同的数据库中,对于应用程序来说,拆分规则本身就较根据表名来拆分更为复杂,后期的 数据维护也会更为复杂一些。
数据库垂直拆分
一个数据库由很多表的构成,每个表对应着不同的业务,垂直切分是指按照业务将表进行分 类,分布到不同 的数据库上面,这样也就将数据或者说压力分担到不同的库上面,如下图:
系统被切分成了,用户,订单交易,支付几个模块。 一个架构设计较好的应用系统,其总体功能肯定是由很多个功能模块所组成的,而每一个功 能模块所需要的数据对应到数据库中就是一个或者多个表。而在架构设计中,各个功能模块 相互之间的交互点越统一越少,系统的耦合度就越低,系统各个模块的维护性以及扩展性也 就越好。这样的系统,实现数据的垂直切分也就越容易。
数据库水平拆分
相对于垂直拆分,水平拆分不是将表做分类,而是按照某个字段的某种规则来分散到多个库 之中,每个表中包含一部分数据。简单来说,我们可以将数据的水平切分理解为是按照数据 行的切分,就是将表中的某些行切分到一个数据库,而另外的某些行又切分到其他的数据库 中,如图:
拆分数据就需要定义分片规则。关系型数据库是行列的二维模型,拆分的第一原则是找到拆 分维度。比如: 从会员的角度来分析,商户订单交易类系统中查询会员某天某月某个订单, 那么就需要按照会员结合日期来拆 分,不同的数据按照会员 ID 做分组,这样所有的数据 查询 join 都会在单库内解决;如果从商户的角度来讲,要查 询某个商家某天所有的订单 数,就需要按照商户 ID 做拆分;但是如果系统既想按会员拆分,又想按商家数据,则 会 有一定的困难。如何找到合适的分片规则需要综合考虑衡量
几种典型的分片规则包括: 按照用户 ID 求模,将数据分散到不同的数据库,具有相同数据用户的数据都被分散 到一个库中; 按照日期,将不同月甚至日的数据分散到不同的库中; 按照某个特定的字段求摸,或者根据特定范围段分散到不同的库中。
MyCat 功能介绍
Mycat 背后是阿里曾经开源的知名产品——Cobar。Cobar 的核心功能和优势是 MySQL 数 据库分片。
它是一个开源的分布式数据库系统,是一个实现了 MySQL 协议的的 Server,前端用户可 以把它看作是一个数据库代理,用 MySQL 客户端工具和命令行访问,而其后端可以用 MySQL 原生(Native)协议与多个 MySQL 服务器通信,也可以用 JDBC 协议与大多数 主流数据库服务器通信,其核心功能是分表分库,即将一个大表水平分割为 N 个小表,存 储在后端 MySQL 服务器里或者其他数据库里。
MyCat 原理
Mycat 的原理中最重要的一个动词是“拦截”,它拦截了用户发送过来的 SQL 语句,首先 对 SQL 语句做了一些特定的分析:如分片分析、路由分析、读写分离分析、缓存分析等, 然后将此 SQL 发往后端的真实数据库,并将返回的结果做适当的处理,最终再返回给用户。
当 Mycat 收到一个 SQL 时,会先解析这个 SQL,查找涉及到的表,然后看此表的定义, 如果有分片规则,则获取到 SQL 里分片字段的值,并匹配分片函数,得到该 SQL 对应的 分片列表,然后将 SQL 发往这些分片去执行,最后收集和处理所有分片返回的结果数据, 并输出到客户端。以 select * from Orders where prov=?语句为例,查到 prov=wuhan,按照分 片函数,wuhan 返回 dn1,于是 SQL 就发给了 MySQL1,去取 DB1 上的查询结果,并 返回给用户。
分片的模板
parentKey="id">
parentKey="id">
parentKey="id" />
parentKey="id" />
parentKey="id">
parentKey="order_id">
parentKey="order_id">
writeType="0" dbType="mysql" dbDriver="native" switchType="1" slaveThreshold="100">
select user()
password="root">