负载均衡容错熔断限流和降级

最新推荐文章于 2024-04-05 07:46:16 发布

西伯利亚狼_V工程师

最新推荐文章于 2024-04-05 07:46:16 发布

阅读量1.5k

点赞数 1

文章标签： java

本文链接：https://blog.csdn.net/m0_61009105/article/details/121527202

版权

本文详细介绍了微服务架构中的负载均衡策略，包括随机、轮询、加权轮询和IP Hash等，并探讨了不同策略的适用场景。此外，文章深入讨论了服务的容错机制，如快速失败、失效切换、失败安全和失败自动恢复等，并介绍了熔断器的概念和工作原理。同时，文章提到了限流和降级在保障系统稳定中的作用，以及SLA（服务等级协议）的重要性。最后，文章还涉及了API网关、多级缓存、超时和重试、线程池隔离等关键概念，旨在提高服务的高可用性和稳定性。

摘要由CSDN通过智能技术生成

3. 负载均衡

服务高可用的保证手段，为了保证高可用，每一个微服务都需要部署多个服务实例来提供服务。此时客户端进行服务的负载均衡。

3.1 负载均衡的常见策略
3.1.1 随机
把来自网络的请求随机分配给内部中的多个服务器。

3.1.2 轮询
每一个来自网络中的请求，轮流分配给内部的服务器，从1到N然后重新开始。此种负载均衡算法适合服务器组内部的服务器都具有相同的配置并且平均服务请求相对均衡的情况。

3.1.3 加权轮询
根据服务器的不同处理能力，给每个服务器分配不同的权值，使其能够接受相应权值数的服务请求。例如：服务器A的权值被设计成1，B的权值是3，C的权值是6，则服务器A、B、C将分别接受到10%、30％、60％的服务请求。此种均衡算法能确保高性能的服务器得到更多的使用率，避免低性能的服务器负载过重。

3.1.4 IP Hash
这种方式通过生成请求源IP的哈希值，并通过这个哈希值来找到正确的真实服务器。这意味着对于同一主机来说他对应的服务器总是相同。使用这种方式，你不需要保存任何源IP。但是需要注意，这种方式可能导致服务器负载不平衡。

3.1.5 最少连接数
客户端的每一次请求服务在服务器停留的时间可能会有较大的差异，随着工作时间加长，如果采用简单的轮循或随机均衡算法，每一台服务器上的连接进程可能会产生极大的不同，并没有达到真正的负载均衡。最少连接数均衡算法对内部中需负载的每一台服务器都有一个数据记录，记录当前该服务器正在处理的连接数量，当有新的服务连接请求时，将把当前请求分配给连接数最少的服务器，使均衡更加符合实际情况，负载更加均衡。此种均衡算法适合长时处理的请求服务，如FTP。