高并发系统设计--负载均衡与API网关

本文探讨了高并发系统中的负载均衡和API网关设计。负载均衡通过代理服务如lvs和nginx分发流量,实现性能提升和业务无感扩容。API网关则作为系统边界,提供统一接入、服务治理、认证授权等功能,强调性能和扩展性,可使用线程池和责任链模式优化。
摘要由CSDN通过智能技术生成
负载均衡

负载均衡:有两个用途,1. 将负载均衡的分配到多个处理节点上,减少单个处理节点的请求量,提升整体系统的性能。2. 作为流量入口,对请求方屏蔽服务节点的部署细节,实现对业务方无感的扩容。

可以分为两大类:一类是代理类的负载均衡服务;另一类是客户端负载均衡服务。

  1. 代理类的负载均衡服务以单独的服务方式部署,请求先经过负载均衡服务,由负载均衡服务选出一个合适的服务节点后,来实现流量的分发。常见的比较著名的代理服务有lvs和nginx; LVS一般称为四层负载;Nginx一般称为七层负载。lvs性能比nginx好,但lvs工作在tcp层,请求的 URL是七层的概念,不能针对 URL做更细致的请求分发,而且 LVS也没有提供探测后端服务是否存活的机制。一般这么认为LVS适合在入口处承担大流量的请求分发,Nginx部署在业务服务器之前做更细维度的请求分发。
  2. 客户端负载均衡,也就是把负载均衡的服务内嵌在客户端中。这类一般会结合注册中心使用,客户端从注册中心中获取服务的列表,根据策略选取一个合适的节点,分发请求到该节点。
  • 负载均衡策略一般可分为两类:静态策略、动态策略
  1. 静态策略:指选择服务节点时,不会参考后端服务的实际运行状态。常见的静态策略有:轮询、加权轮询、hash算法等
  2. 动态策略:会参考后端服务的一些特性,来决定要选择哪个服务节点。负载均衡服务收集后端服务的调用信息,例如连接数、响应时间等,根据收集的信息进行负载均衡。
API网关

API 网关不是一个组件ÿ

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值