为了提高服务的高可用性,减少时延带来的诟病,采取减少平均时延策略, 可用方式有哪些?如何将此策略与现在流行的微服务框架结合,给出你熟悉微服 务框架的融合的设计方案。
服务调用(通信)可以分为以下几个层级
- injvm 进程内
- innative 主机内
- instack 机架内
- inzone 机房内
- inregion 区域内
- global 跨区域
在设计微服务调用时,尽量使用上面层级的,而不是下面层级的:
可以进 程内调用的,不要跨进程;
可以主机内调用,不要跨主机;
可以机架内调用的, 不要跨机架;
可以机房内调用的,不要跨机房;
可以区域内调用的,不要跨区域。
在设计上运用了以上思想的有如下中间件:
1. Dubbo
a) 本地调用。
使用了 Injvm 协议,是一个伪协议,它不开启端口,不发 起远程调用,只在 JVM 内直接关联,但执行 Dubbo 的 Filter 链。
从 dubbo2.2.0 开始,每个服务默认都会在本地暴露;
在引用服务的时候,默认优先引用本地服务;
如果希望引用远程服务可以使用一下配置强制引用远程服务。不用跨网络,可以消除网络开销(injvm)。
b) 跨网络调用。
对dubbo 来说,所有的跨网络服务都是对等的,不区分跨中心、跨区域,因此做不到同机房->同城->跨城这样的优先级。
2. Spring Cloud。
Spring Cloud 有 region(地区)和 zone(中心)的概念,这两个概念源自于 Eureka。通过不同的调用优先级,可以减少网络开销:
a) 一个调用发起时优先调用同一个 zone 下的服务(inzone)。
b) 调用失败则再次调用同一个 region 下的不同 zone 下的服务(inregion)。
c) 如果再次失败,则调用不同 region 下的服务(global)。
3. Kubernetes。
Kubernetes 网络有以下 4 中模式。 使用不同的网络模式,可以减少网络开销:
a) 无网模式。单机应用。内部调(injvm)。
b) Host 模式。共用宿主机。同一个Pod下的调用,如service和sidecar之间的通信,本地网络通信(instack)。
c) Bridge 模式。同一个物理机,不同 Pod 之间的通信,会用到 Docker Bridge0。物理层面的通信,正常的机房内网络通信(inzone)。
d) SDN (Software Defined Network)。软件层面的网络路由。