浅谈分表分库

一、拆分方法：

       1.垂直拆分

       2.水平拆分

二、垂直拆分两种形式：表级别与库级别

       1.分库

           依据微服务的模式，把一个模块的表拆分成单独的库；

            缺点：1)不同模块的表没办法进行关联查询，只能通过接口聚合方式解决，提升了开发的复杂度；

                       2)分布式事务处理复杂

                       3)依然存在表数据过大的情况

            优点：

            解决业务系统层面的耦合，业务清晰

             与微服务的治理类似，也能对不同业务的数据进行分级管理、维护、监控、扩展等

              高并发场景下，垂直切分一定程度的提升IO、数据库连接数、单机硬件资源的瓶颈

       2.分表

            把一个表中不常用的字段或长字段提取出来组成单独的表

三、 水平拆分两种形式：表级别与库级别

         1.分表

               一个表的数据量过大的时候会降低表的读写速度，正常的表数据1000万以内不怎么影响读写速度，最大不能超过5000万；表数据量过多的时候就需要对表进行水平拆分；

               例：user表，根据表id进行拆分，(1~1000)user_0,(1001~2000)user_1·····；访问时根据id值进行判断那个表，user_name查询时，建一个表存name->id/user_(index)的映射

              分表虽然能提高读写速度，但是也有cpu等硬件性能的瓶颈，这时候就只能对数据库进行分库处理了

         2.分库

               根据固定的规则将数据进行存储，方便读时能知道调用哪一个库

-------------------------------分表分库总结---------------------------

转载 https://blog.csdn.net/azhuyangjun/article/details/86976568

单库单表

单库单表是最常见的数据库设计，例如，有一张用户(user)表放在数据库db中，所有的用户都可以在db库中的user表中查到。

单库多表

随着用户数量的增加，user表的数据量会越来越大，当数据量达到一定程度的时候对user表的查询会渐渐的变慢，从而影响整个DB的性能。如果使用mysql, 还有一个更严重的问题是，当需要添加一列的时候，mysql会锁表，期间所有的读写操作只能等待。

可以通过某种方式将user进行水平的切分，产生两个表结构完全一样的user_0000,user_0001等表，user_0000 + user_0001 + …的数据刚好是一份完整的数据。

多库多表

随着数据量增加也许单台DB的存储空间不够，随着查询量的增加单台数据库服务器已经没办法支撑。这个时候可以再对数据库进行水平区分。

分库分表规则

设计表的时候需要确定此表按照什么样的规则进行分库分表。例如，当有新用户时，程序得确定将此用户信息添加到哪个表中；同理，当登录的时候我们得通过用户的账号找到数据库中对应的记录，所有的这些都需要按照某一规则进行。

路由

通过分库分表规则查找到对应的表和库的过程。如分库分表的规则是user_id mod 4的方式，当用户新注册了一个账号，账号id的123,我们可以通过id mod 4的方式确定此账号应该保存到User_0003表中。当用户123登录的时候，我们通过123 mod 4后确定记录在User_0003中。

分库分表产生的问题，及注意事项

1.分库分表维度的问题

假如用户购买了商品,需要将交易记录保存取来，如果按照用户的纬度分表，则每个用户的交易记录都保存在同一表中，所以很快很方便的查找到某用户的 购买情况，但是某商品被购买的情况则很有可能分布在多张表中，查找起来比较麻烦。反之，按照商品维度分表，可以很方便的查找到此商品的购买情况，但要查找 到买人的交易记录比较麻烦。

所以常见的解决方式有：

1. 通过扫表的方式解决，此方法基本不可能，效率太低了。
2. 记录两份数据，一份按照用户纬度分表，一份按照商品维度分表。

 

通过搜索引擎解决，但如果实时性要求很高，又得关系到实时搜索。

2.联合查询的问题

联合查询基本不可能，因为关联的表有可能不在同一数据库中。

3.避免跨库事务

避免在一个事务中修改db0中的表的时候同时修改db1中的表，一个是操作起来更复杂，效率也会有一定影响。

4.尽量把同一组数据放到同一DB服务器上

例如将卖家a的商品和交易信息都放到db0中，当db1挂了的时候，卖家a相关的东西可以正常使用。也就是说避免数据库中的数据依赖另一数据库中的数据。

一主多备

在实际的应用中，绝大部分情况都是读远大于写。Mysql提供了读写分离的机制，所有的写操作都必须对应到Master，读操作可以在 Master和Slave机器上进行，Slave与Master的结构完全一样，一个Master可以有多个Slave,甚至Slave下还可以挂 Slave,通过此方式可以有效的提高DB集群的 QPS.

所有的写操作都是先在Master上操作，然后同步更新到Slave上，所以从Master同步到Slave机器有一定的延迟，当系统很繁忙的时候，延迟问题会更加严重，Slave机器数量的增加也会使这个问题更加严重。

此外，可以看出Master是集群的瓶颈，当写操作过多，会严重影响到Master的稳定性，如果Master挂掉，整个集群都将不能正常工作。

所以

1. 当读压力很大的时候，可以考虑添加Slave机器的分式解决，但是当Slave机器达到一定的数量就得考虑分库了。

2. 当写压力很大的时候，就必须得进行分库操作。