Kong提供多种请求负载均衡到多个后端服务的方式:默认的基于DNS的方法,以及使用Upstream实体的一组高级负载均衡算法。
默认情况下启用DNS负载均衡器,仅限于循环调度负载均衡。Upstream实体还具有健康检查和断路器功能,除了更高级的算法,如最小连接数、一致性哈希和最低延迟。
根据您的基础设施,请参考相应的DNS注意事项。
每个使用主机名(而不是IP地址)定义的服务,如果该名称解析为多个IP地址,将自动使用基于DNS的负载均衡。
DNS记录的ttl设置(存活时间)决定了信息刷新的频率。当使用ttl为0时,每个请求将使用自己的DNS查询进行解析。显然,这会带来一定的性能损耗,但更新/更改的延迟将非常低。
所使用的循环调度算法(是否加权)取决于主机名的DNS记录类型。
A记录
A记录包含一个或多个IP地址。因此,当主机名解析为A记录时,每个后端服务必须有自己的IP地址。
由于没有权重信息,负载均衡器将平等对待所有条目,并进行简单的循环调度。
SRV记录
SRV记录包含所有IP地址的权重和端口信息。后端服务可以通过IP地址和端口号的唯一组合进行标识。因此,单个IP地址可以在不同的端口上承载多个相同服务的实例。
SRV记录还具有优先级属性。Kong只会使用具有最高优先级的条目,并忽略其他所有条目(请注意,SRV记录中的“最高优先级”实际上是具有最低优先级值的记录)。
因为可用权重信息,每个条目在负载均衡器中都会有自己的权重,并进行加权循环调度。
类似地,任何给定的端口信息都将被DNS服务器的端口信息覆盖。如果一个服务具有主机属性为myhost.com和端口属性为123,并且myhost.com解析为一个带有127.0.0.1:456的SRV记录,那么请求将被代理到http://127.0.0.1:456/somepath,因为端口123将被456覆盖。
DNS注意事项
- Kong将信任域名服务器。这意味着通过DNS查询检索到的信息将比配置的值具有更高的优先级。这主要涉及到携带端口和权重信息的SRV记录。
- 每当DNS记录刷新时,会生成一个列表来正确处理权重。为了保持算法的性能,尽量将权重保持为它们的倍数,例如,17和31的2个权重将导致结构中有527个条目,而16和32的权重(或者它们最小的相对项1和2)将导致结构中仅有3个条目。这在非常小(甚至为0)的ttl值下尤其重要。
- DNS使用默认限制为512字节的UDP进行传输。如果要返回的条目很多,DNS服务器将以部分数据进行响应,并设置截断标志,表示有更多未发送的条目。DNS客户端,包括Kong,将通过TCP发起第二个请求来检索完整的条目列表。
- 一些域名服务器默认情况下不会响应截断标志,而是将响应修剪为在512字节UDP大小以下。
- Consul是一个示例。在其默认配置中,Consul仅返回前三个条目,并且不设置截断标志来指示还有剩余的未发送条目。Consul提供了一个选项来启用截断标志。
- 如果部署的域名服务器没有提供截断标志,那么上游实例的负载可能会不一致。由于域名服务器提供的信息有限,Kong节点实际上对某些实例不知情。为了缓解这个问题,可以使用一个不同的域名服务器,使用IP地址而不是名称,或者确保使用足够多的Kong节点以保持所有上游服务的使用状态。
- 当域名服务器返回一个“3 Name Error”的错误时,这对于Kong来说是一个有效的响应。如果这是意外的情况,首先验证查询的名称是否正确,其次检查域名服务器的配置。
- 在DNS记录(A或SRV)中,初始选择的IP地址不是随机的。因此,在使用TTL为0的记录时,预期域名服务器会对记录条目进行随机排序。