目前,最火的微服务框架,就是SpringCloud了。虽然netflix公司对某些组件的维护经常爽约,但有些核心组件还是非常经典的。
1、注册中心:Eureka
服务A,怎么找到服务B,有很多种方式。比如你生活在一个小镇上,你问xjjdog是谁,老王可能认识他,但小李可能并不知晓;但小李认识老王,所以通过他最终也能找到xjjdog,只不过麻烦一些。
你可以随便拉小镇上的一个人,来问xjjdog是谁。你还会变戏法一样拿出一个小本本,把你认识的人,都告诉他们。当你脑残式的问了一个遍,到最后所有人都知道xjjdog了。
上面说的就是gossip协议。最终,你们都能够知道彼此,因为都是大嘴巴。比如小郑生了个孩子,过不了多少时间,全镇子的人都把这个孩子记录在本子上了。
用这种方式,服务都能够知道彼此,完成通信。
可惜这并不美好,从小镇的东头跑到西头,需要很长时间。在这个时间里,小郑刚生的孩子可能因为先天疾病夭折了。我们需要一种信息集中度和实效性更高的方式。
这就需要一个中心,那里的信息就是权威。 在SpringCloud体系中,最常用的注册中心就是Eureka。任何服务启动以后,都会把自己注册到Eureka的注册表中;当服务死亡的时候,也会通知Eureka。
这样,当服务A想要找服务B的时候,只需要问一下Eureka Server就可以了,它什么都知道。
为了达到这个目的,还是要有一部分工作量的。且看下图。这个注册动作,是由一个叫做Eureka Client的组件来完成的。服务启动和关闭的时候,会通过这个组件推销自己;而当服务A想要调用服务B的时候,直接问Eureka Server就可以了。服务A拿到结果后,会把结果缓存在本地的注册表里。
你可以认为是一个拷贝。所以Eureka Server死掉后,并不影响服务A找到服务B。
2、负载均衡组件:Ribbon
现在问题来了。服务A拿到服务B的实例列表以后,发现有两台。
10.0.0.12
10.0.0.16
接下来麻烦了,该调哪台机器呢?这就是SpringCloud中组件Ribbon的作用。其实Round Robin
是一个通用的计算机术语。它是最常用的负载均衡策略,请求会均匀的分配给后面的每台服务器。
Ribbon工作时,会做下面四件事:
1、优先选择在一个Zone且负载较少的Eureka Server,进行连接。
2、定期从Eureka更新、过滤服务和实例列表。
3、根据负载均衡策略,从注册表中选择一个真正的实例地址。
4、通过RestClient对服务发起调用。
可以看到,Ribbon背后,还是采用的Http协议进行交互。看以下代码,就可以直接实现对远端服务的调用。
@Bean
@LoadBalanced
RestTemplate restTemplate(){
return new RestTemplate();
}
...
@Autowired
RestTemplate restTemplate;
public String test() {
return restTemplate.getForObject("http://test-service/test", String.class);
}
Ribbon的Filter会查找test-service
,并替换成相应的实例地址。
策略
Ribbon不仅仅提供了轮询的策略,还有其他的,比如:
1、随机Random
2、根据响应时间加权
3、自定义
拿轮询来说,最终的选择逻辑就在RoundRobinRule类中。
private int incrementAndGetModulo(int modulo) {
for (;;) {
int current = nextServerCyclicCounter.get();
int next = (current + 1) % modulo;
if (nextServerCyclicCounter.compareAndSet(current, next))
return next;
}
}
3、为简化代码而生:Feign
可以看到,Ribbon需要自己构建http请求,模拟http请求然后使用RestTemplate发送给其他服务,步骤相当繁琐。而且返回类型不安全,也表达不出什么语义。
其实,通过Ribbon方式,已经能够完成微服务之间的调用了。但SpringCloud的开发语言是Java,肯定要进行更加高级的封装,才能体现它的逼格。
Feign得益于Java的动态代理机制,最终封装出一套简洁的接口调用方式,将需要调用的其他服务的方法定义成抽象方法即可,不需要自己构建http请求。
首先,Feign会根据@FerignClient注解,通过动态代理,创建一个动态代理类。接下来,你只要通过调用接口的方式,就可以构造上面提到的Ribbon调用参数,这个过程会自动填充。最后,通过构造的Ribbon请求,发起真正的调用,并通过反射组装返回值。
所以,Feign只是一层皮,最终还是要通过Ribbon进行调用。在我看来,把Ribbon和Feign合成一个组件,也是合理的。
它们有一个比较通用的名词,就叫做RPC(远程调用)。
4、异常的保护伞:断路器
下面以一个支付请求为例,说一下不是风平浪静的情况下,服务会有什么反应。
每一个真正的支付请求,都会调用其他四个服务。首先,使用鉴权服务,获取用户的支付权限;然后,风控服务会做一些规则验证;为了更好的推销产品,会调用营销业务,获取一些推荐信息;最后,调用聚合支付服务,进行真正的支付。
其中,营销业务其实是可有可无的。让用户首先把钱花出去,是我们的首要任务。
考虑下面一种场景,营销业务由于系统故障或者负载问题,发生了大面积的不可用或者超时。然后,所有的请求都卡在了获取营销信息的代码上。
如图所示,鉴权和风控都已经通过了。因为一个旁路功能:营销业务,导致真正的支付无法进行。这个时候,如果有人调用支付请求,会发现支付请求也完蛋了。
因为它们最终都卡在了营销这一段小代码上。所以,对于营销业务这种不是链路上必备的服务提供者,要有一个手段,让它在发生问题的时候,隔离它一段时间。
负责这个功能的组件,就叫做Hystrix。
以我们编程的思维来说,这就是个if条件。
if(服务发生问题){
return "暂时不要处理";
}
但我们不能这么编码在业务代码里。所以Hystrix对每个服务开了一个线程池,并有比较复杂的规则,来控制这些出问题的服务的行为。比如,在2分钟内,直接返回营销业务的默认结果,而不是一直卡在那里。
这个过程,就叫熔断。就像电源一样,出了问题,先切断保险丝,别把电器给烧了。
5、此网关非彼网关:zuul
API网关是一个反向的路由
,它屏蔽了内部的细节,为调用者提供了统一的入口。网关,其实是一堆过滤器
的几何,可以实现一系列和业务无关的横切面功能。
熟悉Spring的都知道AOP,路由的一个功能,就是针对于分布式服务的一个AOP。
还是先说下网关的职责吧。简单罗列几个:
1、安全认证。提供统一的认证方式和鉴权功能,避免重复开发。
2、熔断,限流。针对问题服务,进行熔断操作;对流量进行预估,限制访问。
3、日志监控。统一流量入口,进行流量分析和监控。
4、屏蔽内部细节,对外提供一致的接口。
5、实现灰度。使用自定义策略实现分流,达到测试的目的。
网关的位置,大体就如下图。
可以看到,我们平常用的nginx,就可以当作网关。但对于微服务来说,nginx的配置实在是太麻烦了。不是说nginx功能不够强大,而是因为它们不是一个体系的,就存在整合成本(比如kong)。
zuul就不一样了,它和SpringCloud的其他组件,是一家子的。一家子的,当然会特殊照顾。Zuul本身就是一个Servlet,外部请求经过一系列Filter后,会达到真正的服务。上面说的熔断器,就是高度集成的。
6、一张聚合图
有了上面关键组件,事情就明了的多了。我们把它放在一张图中,就是下面的样子。
我们将其简化一下,就可以得到一张更简洁的图。可以看到,只需要3个关键点:
1、服务注册中心,统一管理所有服务的信息,默认组件是Eureka。
2、RPC,网络通信组件,服务A怎么调用服务B。在SpringCloud中,就是Ribbon+Feign。
3、网关,拆分的服务怎么暴露接口,最终见人的样子。默认组件是Zuul。
征途
一点道理
处理杂乱无章的事情,最有效的途径,就是集权和中心化。集权和中心化的核心就是授权或者认同,否则注定失败。授权是对上,各位当权者应该同意我的做法,所以我需要用及其易懂的语言,去说服他们接受这个体系;认同,是对下,最好是从人民的抱怨声中,出具的改善措施,所以要权威专业。
和微服务一样,需要给一些陈旧的概念,强行赋予看起来比较自然的新意义。比如我把统一语言,叫做文化融合,就显得高大上一些。
第二个,就是把职责拆的足够细。够细才能够精,每个位置上的人才能各司其职。
还有一点,整个过程,要能够系统化,能够进行推演。如果一件事有着不可预料的后果,那是冒险家干的事情。