分布式系统架构特别是进入微服务架构后,服务治理的重要性愈发变得不可缺少而且处于重要地位。缺乏服务治理的的分布式系统架构,很难正式投入生产。那么服务治理包括哪些方面呢?主要包括服务发现,负载均衡,限流,熔断,超时,重试,服务跟踪等。下面展开讲。
侵入式服务治理
1.服务发现
2.负载均衡
负载均衡是实现系统高可用,网络流量疏导和扩容的重要手段。通过合理的算法把请求分摊到后端的多个服务节点,关键在于均匀分发请求。
小规模的系统可以采用DNS来做,通过为同一主机名配置多个IP地址,DNS应答时通过轮询的方式返回不同的主机IP。
负载均衡分为 服务端负载均衡、客户端负载均衡
服务端负载均衡
![](https://i-blog.csdnimg.cn/blog_migrate/262843c902e6dc1f514f8a120907fc91.png)
四层负载均衡 通过IP+Port的方式决定流量的负载分担。以TCP为例,通过修改报文中目标IP地址的方式,进行分发到不同的后端。客户端是和真实的服务器间建立连接,此时负载均衡器只是作为路由器进行报文转发。
四层负载均衡的性能强于七层(需要解析报文应用层内容[参考OSI七层网络模型]),常用的产品有F5和LVS。
七层负载均衡通过解析报文中,进行请求转发。还以TCP来说,此时负载均衡器会分别与服务器和客户端建立连接,因为只有这样负载均衡器才能解析应用层。常用的产品是Nginx.
![](https://i-blog.csdnimg.cn/blog_migrate/215ac093ce5cb5c9dbf390b2de023660.png)
大型网站来说,一般都是四层+七层搭配使用
![](https://i-blog.csdnimg.cn/blog_migrate/dc0986945253db1205c37f340f0682b3.png)
服务端负载均衡优势,对于业务本身没有侵入型,对代码本身无影响,应用只需要保证无状态性。劣势就是 负载均衡会成为瓶颈,一般会部署多个节点
客户端负载均衡
服务端负载均衡针对服务七列表不经常变化的场景是可以的,但是分布式架构特别是微服务架构,服务动态伸缩,上下线会经常变化,此时就需要客户端做动态负载均衡了。如图
![](https://i-blog.csdnimg.cn/blog_migrate/0b8ef585111988b8cf3191945f43b34f.png)
客户端负载均衡是在客户端内部,由客户端通过动态获取服务列表后,按照负载均衡算法进行的负载分担。这样实现了动态的负载均衡,同时也给代码带了较大的侵入性。目前常见的实现方案就是NetFlix的Ribbon,他有5个核心接口
- ILoadBalancer
- IRule
- IPing
- ServerList
- ServerListFilter
这五个接口的实现类课题通过属性文件注入,可以自定义自己的负载策略
Ribbo还提供了连接超时和重试的能力,当Ribbon和 Eureka一起应用时,Ribbon会通过Eureka获取服务列表。一个典型的Ribbon应用架构如下
![](https://i-blog.csdnimg.cn/blog_migrate/034b75e977df7041d6c3071d032f5e72.png)
最后
合理使用负载均衡,是提高系统性能和高可用性的有效手段,需要结合具体的场景进行选择搭配。