前身 CMA 动态负载均衡服务器 微服务的概念
改进后 L5
包括:
负载均衡技术:
可观测指标(CPU,网络,内部统计等)转化为0-100的数值表示空闲处理能力。
过载保护技术:
时间片内的访问作为统计单位,平均延时,成功率作为下一个时间片内的请求参照。
收集x时间片后端服务响应成功延时信息 判断x+1时间片对前端的处理质量是否适合继续服务
响应结果失败增大,降低访问量
根据之前的成功率增加下一时刻请求 可以减少故障可能性
(类似于TCP慢启动,拥塞避免)
过服务故障失败率高,周期得当的情况下,迅速检测到故障,仅发送象征请求保持连接
L5主要功能特性:
预防出错 监控指标分析,实现合理规划
出错处理 避开故障并告警
出错恢复 故障类型选择不同的做法
负载均衡 容错 过载保护 配置集中管理
L5架构:
插播
有状态无状态:
http是无状态的,每一次信息的传递都是独立的,请求+响应。
加上cookie或者session可以做到有状态的协议,例如维持购物网站的身份验证
有连接无连接:
TCP就是有连接的,建立完整的连接流程,现阶段的keep-alive类似有连接
UDP就是无连接的
DNS Server:(单独部署,保持心跳)
配置下发(路由+有状态规则配置)
DNS Agent:(业务服务器上,在L5 Agent启动后启动DNS Agent)
接受配置,注册路由,然后调用L5 API将路由更新到L5 Agent;有状态规则配置,保存到固定文件,通过时间戳
L5 Agent:
将后台服务器的IP:port分配给业务CGI,根据业务CGI上报的路由响应结果决定下一个周期路由的分配
业务CGI:
调L5的API获取后台IP:port然后对服务器进行访问,访问结束再调L5 API将访问结果/时延信息告知L5 Agent