下一代微服务架构Service Mesh

一、什么是Service Mesh

1）、Service Mesh以轻量级的网络代理的方式与应用代码部署在一起，用于保证服务与服务之间调用的可靠性

2）、Service Mesh主要解决的问题：

• 跨语言服务调用
• 云原生应用服务治理的需要，对业务代码无侵入的适合云原生应用的服务治理方式

3）、Buoyant公司开发的第一代Service Mesh产品Linkerd。服务A要调用服务B，经过Linkerd来代理转发，服务A和服务B的业务代码不需要关心服务框架功能的实现。为此Linkerd需要具备负载均衡、熔断、超时重试、监控统计以及服务路由等功能。对于跨语言服务调用来说，即使服务消费者和服务提供者采用的语言不同，也不需要集成各自语言的SDK

4）、对于云原生应用来说，可以在每个服务部署的实例上，都同等的部署一个Linkerd实例。服务A要想调用服务B，首先调用本地的Linkerd实例，经过本地的Linkerd实例转发给服务B所在节点上的Linkerd实例，最后再由服务B本地的Linkerd实例把请求转发给服务B。这样的话，所有的服务调用都得经过Linkerd进行代理转发，所有的Linkerd组合起来就像一个网络一样，也就是Service Mesh被称为服务网格的原因

二、Service Mesh的实现原理

Service Mesh实现的关键就在于两点：一个是轻量级的网络代理也叫SideCar，它的作用就是转发服务之间的调用；一个是基于SideCar的服务治理也被叫作Control Plane，它的作用是向SideCar发送各种指令，以完成各种服务治理功能

1）、SideCar

在Service Mesh架构中，服务框架的功能都集中实现在SideCar里，并在每一个服务消费者和服务提供者的本地都部署一个SideCar，服务消费者和服务提供者只管自己的服务实现，服务消费者向本地的SideCar发起请求，本地的SideCar根据请求的路径向注册中心查询，得到服务提供者的可用节点列表后，再根据负载均衡策略选择一个服务提供者节点，并向这个节点上的SideCar转发请求，服务提供者节点上的SideCar完成流量统计、限流等功能后，再把请求转发给本地部署的服务提供者进程，从而完成一次服务请求

服务消费者节点上的SideCar叫作正向代理，服务提供者节点上的SideCar叫作反向代理，Service Mesh架构的关键点就在于服务消费者发出的请求如何通过正向代理转发以及服务提供者收到的请求如何通过反向代理转发。主要有两种实现方案：

• 基于iptables的网络拦截。节点A上服务消费者发出的TCP请求都会被拦截，然后发送给正向代理监听的端口15001，正向代理处理完成后再把请求转发到节点B的端口9080。节点B端口9080上的所有请求都会被拦截发送给反向代理监听的端口15001，反向代理处理完成后再转发给本机上服务提供者监听的端口9080

• 采用协议转换的方式。节点A上的服务消费者请求直接发给正向代理监听的端口15001，正向代理处理完成后，再把请求转发到节点B上反向代理监听的端口15001，反向代理处理完成后再发送给本机上的服务提供者监听的端口9080

两种方案最大的不同之处在于，一个是通过iptables网络拦截实现代理转发的，一个是靠直接把请求发送给代理来转发的。基于iptables网络拦截的方式理论上会有一定的性能损耗，但它的优点是从网络层实现调用拦截，能做到完全的业务无感知，所以适合云原生应用。而直接把请求发送给代理的方式，要求代理层加入业务逻辑，才能把请求转发给对应的服务提供者监听的端口

2）、Control Plane

SideCar能实现服务之间的调用拦截功能，服务之间的所有流量都可以通过SideCar来转发，所有的SideCar就组成了一个服务网格，再通过一个统一的地方与各个SideCar交互，就能控制网络中流量的运转了，这个统一的地方在Service Mesh中就被称为Control Plane

• 服务发现：服务提供者会通过SideCar注册到Control Plane的注册中心，这样的话服务消费者把请求发送给SideCar后，SideCar就会查询Control Plane的注册中心来获取服务提供者节点列表

• 负载均衡：SideCar从Control Plane获取到服务提供者节点列表信息后，就需要按照一定的负载均衡算法从可用的节点列表中选取一个节点发起调用，可以通过Control Plane动态修改SideCar中的负载均衡配

• 请求路由：SideCar从Control Plane获取的服务提供者节点列表，也可以通过Control Plane来动态改变，比如需要进行A/B测试、灰度发布或者流量切换时，就可以动态地改变请求路由

• 故障处理：服务之间的调用如果出现故障，就需要加以控制，通常的手段有超时重试、熔断等，这些都可以在SideCar转发请求时，通过Control Plane动态配置

• 安全认证：可以通过Control Plane控制一个服务可以被谁访问，以及访问哪些信息。

• 监控上报：所有SideCar转发的请求信息，都会发送到Control Plane，再由Control Plane发送给监控系统，比如Prometheus等

• 日志记录：所有SideCar转发的日志信息，也会发送到Control Plane，再由 Control Plane 发送给日志系统，比如Stackdriver等

• 配额控制：可以在Control Plane里给服务的每个调用方配置最大调用次数，在SideCar转发请求给某个服务时，会审计调用是否超出服务对应的次数限制