分布式架构演进过程

 1.计算机的发展历史

       1946年情人节(2.14) , 世界上第一台电子数字计算机诞生在美 国宾夕法尼亚大学大学，它的名字是：ENIAC; 这台计算机占地170平米、重达30吨，每秒可进行5000次加法运算。 第 一台电子计算机诞生以后，意味着一个日新月异的 IT 时代 的到来。一方面单台计算机的性能每年都在提升：从最早的8位CPU到现在的64位CPU ；从早期的MB级内存到现在的GB级别内存；从慢速的机械存储到现在的固态SSD硬盘存储。 tips ：冯诺依曼模型 

        ENIAC之后，电子计算机便进入了IBM主导的大型机时代，IBM大型机之父吉恩.阿姆达尔被认为是有史以来最伟大的计算机设计师之一。1964年4月7日，在阿姆达尔的带领下，历时三年，耗费 50亿美元，第一台IBM大型机SYSTEM/360诞生。这使得IBM在 20实际50~60年代统治整个大型计算机工业，奠定了IBM计算机帝国的江山。 

         2.1 IBM大型机曾支撑美国航天登月计划

         2.2 IBM主机一直服务于金融等核心行业的关键领域 

       由于高可靠性和超强的计算能力，即便在 X86 和云计算飞速发 展的情况下,IBM的大型机依然牢牢占据着一定的高端市场份额 20世纪80年代，在大型机霸主的时代，计算机架构同时向两 个方向发展 3.1以CISC (微处理器执行的计算机语言指令集) CPU为架构 的价格便宜的面向个人的PC 3.2 以RISC (精简指令集计算机) CPU为架构的价格昂贵的面向企业的小型UNIX服务器。

       大型主机的出现。凭借着大型机超强的计算和 I/O 处理能力、 稳定性、安全性等，在很长一段时间内，大型机引领了计算机 行业及商业计算领域的发展。而集中式的计算机系统架构也成为了主流。随着计算机的发展，这种架构越来越难以适应人们的需求，比如说 ：

       1.由于大型主机的复杂性，导致培养一个能够熟练运维大型主机的人的成本很高

       2.大型主机很贵，一般只有土豪(政府、金融、电信)才能用得起

       3. 单点问题，一台大型主机出现故障，那么整个系统将处于不可用状态。而对于大型机的使用群体来说，这种不可用导致的 损失是非常大的 

       4. 科技在进步，技术在进步。PC机性能不断提升，很多企业放弃大型机改用小型机及普通PC来搭建系统架构

2.阿里巴巴在 2009 年发起了一项"去 IOE"运动 

       IOE指的是IBM小型机、Oracle数据库、EMC的高端存储。2009年“去IOE”战略透露，到2013年5月17日最后一台IBM小型机在支付宝下线。

为什么要去 IOE? 

       阿里巴巴过去一直采用的是 Oracle 数据库，并利用小型机和高端存储设备提供高性能的数据处理和存储服务。随着业务的 不断发展，数据量和业务量呈爆发性增长，传统的集中式Oracle数据库架构在扩展性方面遭遇瓶颈。传统的商业数据库软件(Oracle,DB2)，多以集中式架构为主，这些传统数据库软件的最大特点就是将所有的数据都集中在一个数据库中，依靠大型高端设备来提供高处理能力和扩展性。集中式数据库的扩展性主要采用向上扩展(Scale up)的方式，通过增加CPU，内存，磁盘等方式提高处理能力。这种集中式 数据库的架构，使得数据库成为了整个系统的瓶颈，已经越来越不适应海量数据对计算能力的巨大需求。 

3.分布式系统为什么会出现

       1. 升级单机处理能力的性价比越来越低。单机的处理能力主要依靠CPU、内存、磁盘。通过更换硬件 做垂直扩展的方式来提升性能，成本会越来越高。

       2. 单机处理能力存在瓶颈。CPU、内存都会有自己的性能瓶颈，也就是说就算你是土豪不惜成本去提升硬件，但是硬件的发 展速度和性能是有限制的。

       3. 稳定性和可用性这两个指标很难达到。单机系统存在可用性和稳定性的问题，这两个指标又是我们必须要去解决的

4.分布式架构的常见概念

      ①集群

       小饭店原来只有一个厨师，切菜洗菜备料炒菜全干。后来客人 多了，厨房一个厨师忙不过来，又请了个厨师，两个厨师都能 炒一样的菜，这两个厨师的关系是集群。

      ②分布式

        为了让厨师专心炒菜，把菜做到极致，又请了个配菜师负责切菜，备菜，备料，厨师和配菜师的关系是分布式。

        分布式是指一个业务，按照一个规则去拆分，分成多个模块，多个模块之间会有一个消息通讯，而这个通讯是达到我们最终去满足一个整体的重要的指标。将一个工作拆分成多个步骤，每一个步骤都是相互独立，但是这些步骤之间都是存在相互关系的

      ③节点

        配菜师的切菜、备菜、备料，都是一个个节点

        节点是指一个可以独立按照分布式协议完成一组逻辑的程序个体。在具体的项目中，一个节点表示的是一个操作系统上的 进程。 

      ④副本机制

        副本(replica/copy)指在分布式系统中为数据或服务提供的冗余。 就是我们说的备份机制

        数据副本指在不同的节点上持久化同一份数据，当出现某一个节点的数据丢失时，可以从副本上读取到数据。数据副本是分 布式系统中解决数据丢失问题的唯一手段。 服务副本表示多个节点提供相同的服务，通过主从关系来实现 服务的高可用方案 

      ⑤中间件

       中间件位于操作系统提供的服务之外，又不属于应用，他是位于应用层和操作系统层之间为开发者方便的处理通信、输入输出的一 类软件，能够让用户关心自己应用的部分。 

5.分布式架构的发展过程

       我们都知道一个成熟的大型网站的系统架构并非一开始就设计的非常完美，也没有一开始就具备高性能、高并发、高可用、安全性等特性，而是随着用户量的增加、业务功能的扩展逐步演变过来的，慢慢的完善的。 在这个过程中，开发模式、技术架构等都会随着迭代发生非常大的变化。 而针对不同业务特征的系统，各自都会有自己的侧重点，例如像淘宝这类的网站，要解决的重点问题就是海量商品搜索、下单、支付等问题; 像腾讯这类的网站，要解决的是数亿级别用户的实时消息传输;而像百度这类的公司所要解决的又是海量数据的搜索。每一个种类的业务都有自己不同的系统架构。

      下面我们来简单模拟一个架构演变过程。 我们以 javaweb 为例，来搭建一个简单的电商系统，从这个系统中来看系统的演变过程。要注意的是接下来的演示模型， 关注的是数据量、访问量提升，网站结构的变化， 而不关注具体业务的功能点。其次，这个过程是为了让大家能更好的了解网站演进过程中的一些问题和应对策略。

假如我们系统具备以下功能:

• 用户模块:用户注册和管理。
• 商品模块:商品展示和管理。
• 交易模块:创建交易及支付结算。

     阶段一：单应用架构

       网站的初期也可以认为是互联网发展的早起，我们经常会在单机上跑我们所有的程序和软件。把所有软件(tomcat、数据库软件等)和应用(web工程)都部署在一台机器上，这样就完成一个简单系统的搭建，这个时候的讲究的是效率。

     阶段二：应用服务器和数据库服务器分离 

       随着网站的上线，访问量逐步上升，服务器的负载慢慢提高，在服务器还没有超载的时候，我们应该做好规划，提升网站的 负载能力。假如代码层面的优化已经没办法继续提高，在不提高单台机器的性能，增加机器是一个比较好的方式，投入产出比非常高。这个阶段增加机器的主要目的是将web 服务器和数据库服务器拆分，这样不仅提高了单机的负载能力，也提高 了容灾能力 。

     阶段三：应用服务器集群（应用服务器负载告警，如何让应用服务器走向集群）

       随着访问量的继续增加，单台应用服务器已经无法满足需求。 在假设数据库服务器还没有遇到性能问题的时候，我们可以增加应用服务器，通过应用服务器集群将用户请求分流到各个服务器中，从而继续提升负载能力。此时多台应用服务器之间没有直接的交互，他们都是依赖数据库各自对外提供服务。

      架构发展到这个阶段，各种问题也会慢慢呈现 ：

            1. 用户请求由谁来转发到具体的应用服务器(谁来负责负载均衡)

            2. 用户如果每次访问到的服务器不一样，那么如何维护Session数据，达到Session数据的共享

    那么此时，系统架构又会变成如下方式：

       负载均衡又可以分为软负载和硬负载。软件负载我们可以选择Nginx、Apache等，硬件负载我们可以选择F5负载均衡器等。而Session共享问题我们可以通过配置tomcat的session共享或者引入redis来解决。

     阶段四：数据库压力变大，数据库读写分离 

       架构演变到这里，并不是终点。上面我们把应用层的性能拉上来了，但是数据库的负载也在慢慢增大，那么怎么去提高数据库层面的负载呢？有了前面的思路以后，自然会想到增加服务器。但是假如我们单纯的把数据库一分为二，然后对于后续数据库的请求，分别负载到两台数据库服务器上，那么一定会造成数据库不统一的问题。所以我们一般先考虑读写分离的方式。

 这个架构设计的变化会带来如下几个问题：

• 主从数据库之间的数据需要同步(可以使用 mysql 自带的 master-slave 方式实现主从复制 (参考：MySQL 5.7.28 主从复制实现))
• 应用中需要根据业务需求，进行对应数据源的选择( 采用第三方数据库中间件，例如 mycat )

     阶段五：使用搜索引擎缓解读库的压力

       数据库做读库的话，常常对模糊查找效率不是特别好，像电商类的网站，搜索是非常核心的功能，即便是做了读写分离，这个问题也不能有效解决。那么这个时候就需要引入搜索引擎了。使用搜索引擎能够大大提高我们的查询速度，但是同时也会带来一些附加的问题，比如维护索引的构建。 

     阶段六：引入缓存机制缓解数据库的压力

       随着访问量的持续增加，逐渐出现许多用户访问统一部分内容的情况，对于这些热点数据，没必要每次都从数据库去读取，我们可以使用缓存技术，比如Memcache、Redis来作为我们应用层的缓存； 另外在某些场景下，比如我们对用户的某些IP的访问频率做限制，那这个放内存中又不合适，放数据库又太麻烦，这个时候可以使用Nosql的方式比如MongDB来代替传统的关系型数据库。

     阶段七：数据库的水平/垂直拆分 

        我们的网站演进的变化过程，交易、商品、用户的数据都还在同一个数据库中，尽管采取了增加缓存，读写分离的方式，但是随着数据库的压力持续增加，数据库的瓶颈仍然是个最大的问题。因此我们可以考虑对数据的垂直拆分和水平拆分

垂直拆分：把数据库中不同业务数据拆分到不同的数据库 。

水平拆分：把同一个表中的数据拆分到两个甚至更多的数据库中，水平拆分的原因是某些业务数据量已经达到了单个数据库的瓶颈，这时可以采取将表拆分到多个数据库中。

     阶段八：应用的拆分

       随着业务的发展，业务量越来越大，应用的压力越来越大。工程规模也越来越庞大。这个时候就可以考虑将应用拆分，按照领域模型将我们的用户、商品、交易拆分成多个子系统。

       这样拆分以后，可能会有一些相同的代码，比如用户操作，在商品和交易都需要查询，所以会导致每个系统都会有用户查询访问相关操作。这些相同的操作一定是要抽象出来，否则就是一个坑。所以通过走服务化路线的方式来解决。

       那么服务拆分以后，各个服务之间如何进行远程通信呢? 通过 RPC 技术，比较典型的有:dubbo、webservice、hessian、http、RMI 等等。前期通过这些技术能够很好的解决各个服务之间通信问题，但是， 互联网的发展是持续的，所以架构的演变和优化也还在持续。