数据库软件架构设计些什么

原创 2017年11月13日 22:24:14

一、基本概念

二、数据库架构设计思路

1)可用性

2)读性能

3)一致性

4)扩展性



一、基本概念

概念一“单库”



概念二“分片”


分片解决的是“数据量太大”的问题,也就是通常说的“水平切分”。

一旦引入分片,势必有“数据路由”的概念,哪个数据访问哪个库。


路由规则通常有3种方法:

1范围range

优点:简单,容易扩展

缺点:各库压力不均(新号段更活跃)

2哈希hash

优点:简单,数据均衡,负载均匀

缺点:迁移麻烦(2库扩3库数据要迁移)

3路由服务router-config-server

优点:灵活性强,业务与路由算法解耦

缺点:每次访问数据库前多一次查询


大部分互联网公司采用的方案二:哈希分库,哈希路由


概念三“分组”


分组解决“可用性”问题,分组通常通过主从复制的方式实现。


互联网公司数据库实际软件架构是:又分片,又分组(如下图)




二、数据库架构设计思路

数据库软件架构师平时设计些什么东西呢?至少要考虑以下四点:

1)如何保证数据可用性

2)如何提高数据库读性能(大部分应用读多写少,读会先成为瓶颈)

3)如何保证一致性

4)如何提高扩展性


2.1如何保证数据的可用性?

解决可用性问题的思路是=>冗余

如何保证站点的可用性?复制站点,冗余站点

如何保证服务的可用性?复制服务,冗余服务

如何保证数据的可用性?复制数据,冗余数据


数据的冗余,会带来一个副作用=>引发一致性问题(先不说一致性问题,先说可用性)


如何保证数据库“读”高可用?

冗余读库


冗余读库带来的副作用?读写有延时,可能不一致

上面这个图是很多互联网公司mysql的架构,写仍然是单点,不能保证写高可用。


如何保证数据库“写”高可用?

冗余写库


采用双主互备的方式,可以冗余写库

带来的副作用?双写同步,数据可能冲突(例如“自增id”同步冲突),如何解决同步冲突,有两种常见解决方案:

1)两个写库使用不同的初始值,相同的步长来增加id1写库的id0,2,4,6...2写库的id1,3,5,7…

2)不使用数据的id,业务层自己生成唯一的id,保证数据不冲突


58同城没有使用上述两种架构来做读写的“高可用”,58同城采用的是“双主当主从用”的方式


仍是双主,但只有一个主提供服务(读+写),另一个主是“shadow-master”,只用来保证高可用,平时不提供服务。

master挂了,shadow-master顶上(vip漂移,对业务层透明,不需要人工介入)

这种方式的好处

1)读写没有延时

2)读写高可用

不足

1)不能通过加从库的方式扩展读性能

2)资源利用率为50%,一台冗余主没有提供服务


那如何提高读性能呢?进入第二个话题,如何提供读性能。


2.2如何扩展读性能?

提高读性能的方式大致有三种,第一种是建立索引这种方式不展开,要提到的一点是,不同的库可以建立不同的索引


写库不建立索引;

线上读库建立线上访问索引,例如uid

线下读库建立线下访问索引,例如time


第二种扩充读性能的方式是,增加从库,这种方法大家用的比较多,但是,存在两个缺点:

1)从库越多,同步越慢

2)同步越慢,数据不一致窗口越大(不一致后面说,还是先说读性能的提高)


58同城没有采用这种方法提高数据库读性能(没有从库),采用的是增加缓存常见的缓存架构如下:


上游是业务应用,下游是主库,从库(读写分离),缓存。


58同城的玩法是:服务+数据库+缓存一套


业务层不直接面向dbcache,服务层屏蔽了底层dbcache的复杂性。为什么要引入服务层,今天不展开,58采用了“服务+数据库+缓存一套”的方式提供数据访问,用cache提高读性能。


不管采用主从的方式扩展读性能,还是缓存的方式扩展读性能,数据都要复制多份(主+从,db+cache),一定会引发一致性问题。


2.3如何保证一致性?

主从数据库的一致性,通常有两种解决方案:

1)中间件


如果某一个key有写操作,在不一致时间窗口内,中间件会将这个key的读操作也路由到主库上。

这个方案的缺点是,数据库中间件的门槛较高(百度,腾讯,阿里,360等一些公司有,当然58也有)

2)强制读主


58的“双主当主从用”的架构,不存在主从不一致的问题。


第二类不一致,是db与缓存间的不一致


常见的缓存架构如上,此时写操作的顺序是

1)淘汰cache

2)写数据库

读操作的顺序是

1)读cache,如果cache hit则返回

2)如果cache miss,则读从库

3)读从库后,将数据放回cache


在一些异常时序情况下,有可能从【从库读到旧数据(同步还没有完成),旧数据入cache后】,数据会长期不一致。


解决办法是“缓存双淘汰”,写操作时序升级为:

1)淘汰cache

2)写数据库

3)在经验“主从同步延时窗口时间”后,再次发起一个异步淘汰cache的请求


这样,即使有脏数据如cache,一个小的时间窗口之后,脏数据还是会被淘汰。带来的代价是,多引入一次读miss(成本可以忽略)。


除此之外,58同城的最佳实践之一是:建议为所有cache中的item设置一个超时时间。


说完一致性,最后一个话题是扩展性。


2.4如何提高数据库的扩展性?

原来用hash的方式路由,分为2个库,数据量还是太大,要分为3个库,势必需要进行数据迁移,58同城有一个很帅气的“数据库秒级扩容”方案。(悄悄的说,秒级有些吹牛逼,实际操作的时候还是需要费些时间的,不过这确实是个很好的方案。)

如何秒级扩容?

首先,我们不做2库变3库的扩容,我们做2库变4(库加倍)的扩容(未来4->8->16


服务+数据库是一套(省去了缓存)

数据库采用“双主”的模式。


扩容步骤

第一步,将一个主库提升

第二步,修改配置,2库变4库(原来MOD2,现在配置修改后MOD4

扩容完成


MOD2为偶的部分,现在会MOD40或者2

MOD2为奇的部分,现在会MOD41或者3

数据不需要迁移,同时,双主互相同步,一遍是余0,一边余2,两边数据同步也不会冲突,秒级完成扩容!


最后,要做一些收尾工作:

1)将旧的双主同步解除

2)增加新的双主(双主是保证可用性的,shadow-master平时不提供服务)

3)删除多余的数据(余0的主,可以将余2的数据删除掉)


这样,秒级别内,我们就完成了2库变4库的扩展。


OK,今天主要分享了58同城,数据库软件架构上:

1)如何保证数据可用性

2)如何提高数据库读性能

3)如何保证数据一致性

4)如何进行秒级扩容

版权声明:本文为博主原创文章,未经博主允许不得转载。

数据库软件架构设计些什么

2015-11-02 58沈剑 架构师之路 缘起:受@萧田国 萧总邀请,上周五晚上在“高效运维1号群”内分享了《58同城数据库软件架构设计与实践》(这个topic今年在数据库大会上分享过...
  • zhaifengmin
  • zhaifengmin
  • 2015年11月02日 22:53
  • 1378

介绍几种常用的服务器数据库软件

1. SQL Server            微软研发的数据库管理软件,仅能用于Windows操作系统环境中,属于企业数据库,由于其实现与Windows操作系统的无缝接合,因此,SQL Serve...
  • kaka_2014
  • kaka_2014
  • 2013年05月17日 16:57
  • 1712

C语言函数的参数传递的注意事项

C语言函数参数的传递方式有纯地质
  • zhaozicang
  • zhaozicang
  • 2014年04月07日 17:34
  • 1052

2012.07.11

一、简答 1、用预处理指令#define申明一个常数,用以表明1年中有多少秒(忽略闰年问题);写一个“标准#define”宏MIN函数,这个宏输入两个参数并返回最小的一个。 答:#defi...
  • YL1121842781
  • YL1121842781
  • 2012年07月11日 17:21
  • 861

五款实用数据库软件

  在DBA日常工作中,除了使用数据库平台提供的工具进行管理和开发之外,许多第三方软件工具都可以帮助DBA实现相同的功能,有的甚至更加稳定、高效和安全。自从TT数据库网站软件下载频道开通之后,已经为广...
  • ejzhang
  • ejzhang
  • 2010年12月10日 09:59
  • 2320

成为一名优秀的web前端工程师要做些什么?

我在 web 领域工作越长时间,我就越意识到区分人才和顶尖人才的并不是他们的知识——而是他们思考问题的方式。很显然,知识在很多情况下是非常重要而且关键的——但是在一个快速发展的领域,你前进和获取知识...
  • fanyuenan
  • fanyuenan
  • 2017年02月07日 09:41
  • 368

编译器都干了些什么

目前项目在不停的增长,我想还是在它规模仍旧很小的时候把它的模块分清楚,不同模块分到不同的 projects 里面,这里面出现了很多问题,也反映了我知识上的很多不足。 1 , project 最后的输...
  • bendangth
  • bendangth
  • 2015年08月15日 12:06
  • 321

WEB学习笔记(四):CSS3比CSS多了哪些?

1.基础样式属性的扩充    1.1background样式属性的扩充,主要在背景定位上            1.2border属性的扩充,主要是框的图片使用和增加圆角样式         ...
  • jeffsmish
  • jeffsmish
  • 2015年02月10日 22:24
  • 1033

架构设计经验

从毕业到现在已经快7年开发经验了,做过基础用户系统、积分商城、偷菜游戏、论坛、博客等等;也一个人全栈开发在线视频网站(http://sishuok.com/),也开发过几万、几十万、几千万、几个亿不同...
  • h348592532
  • h348592532
  • 2016年07月27日 16:46
  • 930

新手配置服务器需要注意些什么?

如果你的网站没有太大需求而自己又不想折腾的话,其实虚拟主机也完全能够搞定,省下了很多配置和维护时间,还节约一笔Money遇到问题找客服也能轻松解决,个人感觉香港的老薛主机态度就挺不错,用wordpre...
  • sswhcs
  • sswhcs
  • 2014年08月20日 14:11
  • 821
内容举报
返回顶部
收藏助手
不良信息举报
您举报文章:数据库软件架构设计些什么
举报原因:
原因补充:

(最多只允许输入30个字)