使用nginx作为http负载均衡器

原文地址

介绍

负载均衡多个应用实例是一种优化资源效用,最大化吞吐量,减少等待时间,保证容错配置的常用技术.
nginx可以用来做为一个非常高效的http负载均衡器来分发传送到几个应用服务器,同时提高nginx下的应用的性能,可伸缩性和可靠性.

负载均衡的方式

  • 轮询调度(round-robin) – 到应用服务器的请求以轮询调度的方式(round-robin fashion)分发.也就是把请求无状态的依次分配到各个服务器.

  • 最少连接(least-connected) – 下一个连接分配给活连接最少的服务器

  • ip-hash – 用一个hash算法来决定下一个请求分到哪一个服务器(基于客户端的ip地址)

默认的负载均衡配置

最简单的nginx负载均衡配置也许看起来如下:

http {
    upstream myapp1 {
        server srv1.example.com;
        server srv2.example.com;
        server srv3.example.com;
    }

    server {
        listen 80;

        location / {
            proxy_pass http://myapp1;
        }
    }
}

在上面的例子中,有三个相同的应用实例运行在 srv1-srv3上.当负载均衡的方法没有指明配置时,它默认是轮询调度.所有的请求被代理到服务器集群myapp1,同时nginx使用http负责均衡来分配这些请求.
nginx的反向代理实现包括了针对http,https,FastCGI,uwsgi,SCGI,和memcached的负载均衡.
想替换http配置https的负载均衡,只需要使用”https”当作协议.
当为FastCGI, uwsgi, SCGI, or memcached设置负载均衡时,各自使用fastcgi_pass, uwsgi_pass, scgi_pass, and memcached_pass 配置项.

最少连接负载均衡

另一个负载均衡方式是最少连接.在一些请求花更长的时间完成时的情况下,最少连接允许更公平地控制应用实例上的负载.
在最少连接负载下,nginx不会给一个繁忙的应用服务器上分发过量的请求,而是分发新请求到一个不是那么忙的服务器.
当least conn被用在服务集群配置里,nginx下的最少连接负载均衡就被激活了:

 upstream myapp1 {
        least_conn;
        server srv1.example.com;
        server srv2.example.com;
        server srv3.example.com;
    }

Session 持久化

请注意到在轮询调度和最少连接负载均衡下,每一个后来的客户端请求都可能被分配到不同的服务器.没有任何可以保证同一个客户端会被一直指向到同一个服务器.
如果有绑定客户端到一个特殊的应用服务器的需要 – 换句话说,使得客户端的session 在一段时间内一直”黏住” 或者 “持续的” 选择一个特定的服务器 – ip-hash负载均衡算法可以被使用.
在ip-hash下,客户端的ip地址被用来当作一个hashing键来决定服务集群下的哪一个服务器应该被选来接受客户端的请求.这个方法保证了同一个客户端的请求会被一直分发到同一个服务器,除非这个服务器不可获得.
来配置ip-hash负载均衡,只需要加上ip_hash指令到服务器(upstream)集群配置:

upstream myapp1 {
    ip_hash;
    server srv1.example.com;
    server srv2.example.com;
    server srv3.example.com;
}

加权负载均衡(weighted loadbalancing)

使用服务器加权也有可能进一步影响nginx负载均衡算法.
在上面的例子中,没有配置服务器加权,也就意味着使用一种特殊的负载均衡方法把所用的被指定的服务器会被当作同样的资格对待.
尤其是在轮询调度下,这意味着一个更多或者更少的请求被分到服务器 – 当提供足够多的请求,这些请求被统一的方法处理同时完成的足够快.
当一个服务器的weight参数被指定,weight也会成为负载均衡决定要考虑的一部分.

 upstream myapp1 {
        server srv1.example.com weight=3;
        server srv2.example.com;
        server srv3.example.com;
    }

在这个配置中,每5个新请求会按照如下分发到应用实例:3个请求会发到srv1,1个到srv2,一个到srv3.
在最近的nginx版本使用加权的最少连接和ip-hash负载均衡也会有相似的可能.

健康检测 (health checks)

nginx的反向代理实现包括设计内(或者被动的) 服务器健康检测.如果从一个特殊的服务器返回的响应失败,nginx就会标记这个服务器为失败,然后一段时间内禁止随后的进入的请求选择这个服务器.
max_fails指令设置连续的不成功的尝试与服务器连接应该发生在fail_timeout 之内.max_fails默认置1.当他被置0时,对服务器的健康检测是不生效的.fail_timeout 参数也定义了多久服务器就会被标记为失败.在服务器失败fail_timeout间隔后,nginx会开始使用活的客户端请求优雅地探测服务器.如果探测成功,服务器会被标记为活的.
(注:经过测试,只有服务404时会被标记为失败,400,500等服务器仍然被认为是活的.)

了解更多

额外的,在nginx下有更多的指令和参数来控制服务器负载均衡,比如: proxy_next_upstream, backup, down, 和keepalive.想要更多的信息请查阅官方的文档
最后服务集群的application load balancing, application health checks, activity monitoring 和 on-the-fly reconfiguration 也是作为官方的付费NGINX Plus的一部分.
下面的文章讲解了NGINX Plus的负载均衡的更多细节:

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值