负载均衡与Nginx

Nginx

nginx 作负载均衡有很多优点，比如：
1. 实现可弹性化的架构，在压力大的时候可以临时添加Tomcat服务器到这个架构里面。
2. upstream 具有负载均衡能力，可以自动判断下面的机器，并且自动踢出不能正常提供服务的机器;而Keepalvied可保证单个nginx负载均衡器的有效性,避免单点故障.
3. nginx作为web服务，在静态页面中具有较好的表现，可以替代部分apach的功能

正向代理
正向代理就是用户想要请求一个服务器(origin server) ,但是没有办法直接访问，于是通过一个中间服务器，这个服务器接收用户的请求，发送到origin server。源服务器知不知道用户信息取决于中间服务器是否告诉它。

反向代理

https://www.zhihu.com/question/24723688

在计算机世界里，由于单个服务器的处理客户端（用户）请求能力有一个极限，当用户的接入请求蜂拥而入时，会造成服务器忙不过来的局面，可以使用多个服务器来共同分担成千上万的用户请求，这些服务器提供相同的服务，对于用户来说，根本感觉不到任何差别。

反向代理的实现
1. 需要一个负载均衡设备来分发用户的请求，将用户请求分发到空闲服务器。
2. 服务器返回自己的服务到负载均衡设备。
3. 负载均衡设备将服务返还回用户。

也就是用户是和负载均衡器直接通信。也意味着用户做服务器域名解析时，解析得到的IP其实是负载均衡的IP，而不是服务器的IP，这样有一个好处是，当新加入/移走服务器时，仅仅需要修改负载均衡的服务器列表，而不会影响现有的服务。

负载均衡
负载均衡也是Nginx常用的一个功能，负载均衡其意思就是分摊到多个操作单元上进行执行，例如Web服务器、FTP服务器、企业关键应用服务器和其它关键任务服务器等，从而共同完成工作任务。简单而言就是当有2台或以上服务器时，根据规则随机的将请求分发到指定的服务器上处理，负载均衡配置一般都需要同时配置反向代理，通过反向代理跳转到负载均衡。而Nginx目前支持自带3种负载均衡策略，还有2种常用的第三方策略。
1. RR
按照轮询（默认）方式进行负载，每个请求按时间顺序逐一分配到不同的后端服务器，如果后端服务器down掉，能自动剔除。虽然这种方式简便、成本低廉。但缺点是：可靠性低和负载分配不均衡。
2. 权重
指定轮询几率，weight和访问比率成正比，用于后端服务器性能不均的情况。

upstream test{
     server localhost:8080 weight=9;
     server localhost:8081 weight=1;
}

3.ip_hash
上面的2种方式都有一个问题，那就是下一个请求来的时候请求可能分发到另外一个服务器，当我们的程序不是无状态的时候（采用了session保存数据），这时候就有一个很大的很问题了，比如把登录信息保存到了session中，那么跳转到另外一台服务器的时候就需要重新登录了，所以很多时候我们需要一个客户只访问一个服务器，那么就需要用iphash了，iphash的每个请求按访问ip的hash结果分配，这样每个访客固定访问一个后端服务器，可以解决session的问题。

upstream test {
    ip_hash;
    server localhost:8080;
    server localhost:8081;
}

4.fari(第三方）
按后端服务器的响应时间来分配请求，响应时间短的优先分配。

upstream backend { 
    fair; 
    server localhost:8080;
    server localhost:8081;
}

5.url_hash(第三方）
按访问url的hash结果来分配请求，使每个url定向到同一个后端服务器，后端服务器为缓存时比较有效。 在upstream中加入hash语句，server语句中不能写入weight等其他的参数，hash_method是使用的hash算法。

upstream backend { 
    hash $request_uri; 
    hash_method crc32; 
    server localhost:8080;
    server localhost:8081;
} 

有关负载均衡在知乎上的介绍：

https://www.zhihu.com/question/22610352

三步安装完成nginx负载均衡设置

http://network.51cto.com/art/201005/198212.htm

如何才能获得高并发经验

https://www.zhihu.com/question/21177474

nginx原理介绍:

https://blog.csdn.net/wy757510722/article/details/75267431