计算架构模式之负载均衡技巧

通用负载均衡算法

负载均衡算法 -轮询 & 随机

如果服务器挂掉了，那么负载均衡器还是可以感知到的，因为连接已经断掉了。

负载均衡算法-加权轮询

假设你有4核的和8核的，由于你的程序没有办法跑完CPU，那么有可能出现4核的和8核的性能是一样的，这个时候，如果8核的业务量是4核的两倍，那么就有可能出现过载，进而出现丢包、响应变慢等问题。

负载均衡算法-负载优先

负载需要服务器进行上报，负载均衡器根据上报结果就是决策

负载均衡算法-性能优先

一般会通过采样来统计，而不是统计所有请求，谷歌是10%进行采样的。用随机数的方式，中了就采样。

负载均衡算法-Hash

负载均衡算法举例-Nginx

Nginx 为什么不实现基于连接数的负载优先算法?

因为Nginx如果长连接，往往是一个Nginx搭配一个服务，那么打到Nginx的就直接请求到这个服务了，那么没有必要负载了。

负载均衡算法举例-LVS

业务级别负载均衡技巧

业务级别负载均衡介绍

spanner是蚂蚁业务级别的负载均衡，有点像网关，比如按设备进行分区

业务负载均衡技巧-Cookie

业务负载均衡技巧-自定义HTTP Header

比较适合app

业务负载均衡技巧-HTTP query string

业务负载均衡技巧-服务器性能估算

32核就是32个线程。

50ms那么1s可以处理20个

那么机器可以1s处理640个请求

本节思维导图