海量数据存储的解决方案(分布式数据库)

一、大型互联网系统数据的存储处理

896914-20190415002831108-303135154.png
896914-20190415002836682-1044949995.png
896914-20190415002845409-1289442242.png
896914-20190415002908760-100730844.png
896914-20190415002925279-823619817.png
896914-20190415002956788-1500718746.png

解释:主库集群并不能解决并发写的压力

​ 因为是一个集群,集群上的每一个节点上面存的数据是要保证是一样的。在任何一台节点上去插入一条数据,最终这些数据都要同步到集群的各个节点上面去的,也就是说个个节点上面的也会进行一次写操作,所以并没有起到缓解的作用。

​ 带来负面的影响:1.数据库的一致性,2.主键唯一性的问题

896914-20190415003103863-545965251.png
896914-20190415003127971-1734775775.png
896914-20190415003148356-1846397282.png

分区表和分表:
​ 优先选择的是分区表,评估一下数据的量,有没有超出单个库的处理能力,如果没有,完全可以采用分区表的这种方式来做,因为使用分区表呢,就把处理数据的难度就交给了数据库自身来处理了。

​ 分区表是只能在单个库里,对一个表进行分区的,那么如果并发的压力超过了单个库的处理能力,就要考虑使用分表策略了,

​ 分表:指一个数据库中的某个表数据量特别大,把它拆成多个表,放到多个库上面去,分散他们的压力。

​ 分表的规则:

​ 1.范围分区:适合于数值型的/时间型的就可以使用范围分区

​ 2.列表分区:比如:类型为字符串,有限个枚举这类的,如城市 就可以使用列表分区

​ 3.散列分区:不具备 1.2特点的,考虑用散列分区,对这个值求哈希值,然后用这个值去求余或其他等操作选择合适的表

​ 4.复合分区:是对1,2,3的综合使用

数据库中间件:能够帮我们屏蔽掉后段数据存储的变化带来对上层代码的影响,

总结:

896914-20190415003335413-683909215.png

[注]:分布式数据库:就是Mysql数据库构成的,分库,分表的,读写分离的集群

二、方案选型

1.数据库中间件的两种实现模式:

896914-20190415003454861-312607129.png

客户端模式:吃内存(与应用争内存),不适用海量数据的存储,但是适用于高并发的场景

896914-20190415003503196-1594929106.png

2.常用的数据库中间件

896914-20190415003511152-2060484294.png
896914-20190415003518206-414826225.png

三、分布式数据库原理、技术难点

1.数据库拆分:

896914-20190415003756064-472782680.png
896914-20190415003803786-1096535816.png
896914-20190415003812266-356817742.png
896914-20190415003822496-436751670.png
896914-20190415003833230-1584294436.png
896914-20190415003842655-1145397812.png
896914-20190415003849078-947581431.png
896914-20190415003855321-1272129001.png
896914-20190415003903066-56558035.png
896914-20190415003910798-1966183866.png
896914-20190415003918221-1450564076.png

四、高级技能

896914-20190415003940328-888786037.png

转载于:https://www.cnblogs.com/zongheng14/p/10708384.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值