流量调度与负载均衡

1. 三个概念

   1. 连接数，也就是并发数，指发出请求但是没有完结的请求数量
   2. IOPS，指平均每秒完成的请求的数量，可以判断服务器程序的做事效率
   3. 流量：
      1. 入向流量： 平均每秒收到的请求包（Request）数量 * 请求包平均大小。
      2. 出向流量： 平均每秒返回的应答包（Response）数量 * 应答包平均大小。

2. DNS 流量调度：

   1. 升级不方便，有TTL缓存存在，
   2. 流量调度不均衡

3. 网络层负载均衡（三层）

   1. VS/DR：通过改写请求报文的 MAC 地址，将请求发送到真实服务器，真实服务器将响应直接返回给客户。这种做法相比 VS/TUN 少了 IP 隧道的开销，性能最好。
   2. 请求失败重试不方便
   3. 优雅升级

4. 应用层负载均衡（七层）

   1. nginx或apache是常用的应用网关，
   2. 可以很方便的保存http请求到内存中，进行客户端失败重试
   3. 很方便的进行升级系统实例

   ​