SpringCloud之ribbon+feign实现负载均衡

SpringCloud之ribbon+feign实现负载均衡

ribbon是什么?

Spring Cloud Ribbon是基于Netflix Ribbon实现的一套客户端负载均衡的工具。

简单的说，Ribbon是Netflix发布的开源项目，主要功能是提供客户端的软件负载均衡算法，将Netflix的中间层服务连接在一起。Ribbon客户端组件提供一系列完善的配置项如连接超时，重试等。简单的说，就是在配置文件中列出Load Balancer（简称LB）后面所有的机器，Ribbon会自动的帮助你基于某种规则（如简单轮询，随机连接等）去连接这些机器。我们也很容易使用Ribbon实现自定义的负载均衡算法。

服务端的负载均衡和客户端的负载均衡区别？

 

服务端的负载均衡是一个url先经过一个代理服务器（这里是nginx），然后通过这个代理服务器通过算法（轮询，随机，权重等等..）反向代理你的服务，来完成负载均衡。

客户端的负载均衡则是一个请求在客户端的时候已经声明了要调用哪个服务，然后通过具体的负载均衡算法来完成负载均衡。

如何使用？

引入依赖，但是eureka已经把ribbon集成到他的依赖里面去了，所以这里不需要再引用ribbon的依赖，如图：

 

其实要使用ribbon，只需要一个注解：@LoadBalanced

1 2 3 4 5 6

@Bean @LoadBalanced public RestTemplate restTemplate(){   RestTemplate restTemplate = new RestTemplate();   return restTemplate; }

在RestTemplate上面加入@LoadBalanced注解，这样子就已经有了负载均衡， 怎么来证明?、

们这里现在启动了eureka集群（3个eureka） 和Power集群（2个power） 和一个服务调用者（User）

但是我们的User仅仅只需要调用服务，不需要注册服务信息，所以需要改一下配置文件：

1 2 3 4 5 6 7

server: 　　port: 5000 eureka: 　　client:  　　registerWithEureka: false  　　serviceUrl:    　　defaultZone:http://localhost:3000/eureka/,http://eureka3001.com:3001/eureka,http://eureka3002.com:3002/eureka

 启动服务即可。

 

微服务名:SERVER-POWER 下面有2个微服务（power-1,power2），现在我们来通过微服务名调用这个服务

这是user项目的调用代码 ：

 

1 2 3 4 5 6 7

private static final String URL="http://SERVER-POWER"; @Autowired private RestTemplate restTemplate; @RequestMapping("/power.do") public Object power(){   return  restTemplate.getForObject(URL+"/power.do",Object.class); }

 这里已经完成了ribbon的负载均衡，他默认的负载均衡是轮询策略。

核心组件：IRule

IRule是什么? 它是Ribbon对于负载均衡策略实现的接口， 怎么理解这句话？ 说白了就是你实现这个接口，就能自定义负载均衡策略， 自定义我们待会儿来讲， 我们先来看看他有哪些默认的实现

 

 

自定义负载均衡策略：

 

 我们刚刚讲过，只要实现了IRule就可以完成自定义负载均衡，至于具体怎么来，我们先看看他默认的实现：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81 82 83 84 85 86 87 88 89 90 91

/* * * Copyright 2013 Netflix, Inc. * * Licensed under the Apache License, Version 2.0 (the "License"); * you may not use this file except in compliance with the License. * You may obtain a copy of the License at * * http://www.apache.org/licenses/LICENSE-2.0 * * Unless required by applicable law or agreed to in writing, software * distributed under the License is distributed on an "AS IS" BASIS, * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied. * See the License for the specific language governing permissions and * limitations under the License. * */ package com.netflix.loadbalancer; import java.util.List; import java.util.Random; import com.netflix.client.config.IClientConfig; /** * A loadbalacing strategy that randomly distributes traffic amongst existing * servers. * * @author stonse * */ public class RandomRule extends AbstractLoadBalancerRule {      Random rand;   public RandomRule() {     rand = new Random();  }   /**   * Randomly choose from all living servers   */   @edu.umd.cs.findbugs.annotations.SuppressWarnings(value = "RCN_REDUNDANT_NULLCHECK_OF_NULL_VALUE")   public Server choose(ILoadBalancer lb, Object key) {     if (lb == null) {       return null;    }     Server server = null;     while (server == null) {              if (Thread.interrupted()) {         return null;      }              List<Server> upList = lb.getReachableServers();             List<Server> allList = lb.getAllServers();       int serverCount = allList.size();       if (serverCount == 0) {         /*         * No servers. End regardless of pass, because subsequent passes         * only get more restrictive.         */         return null;      }       int index = rand.nextInt(serverCount);       server = upList.get(index);       if (server == null) {         /*         * The only time this should happen is if the server list were         * somehow trimmed. This is a transient condition. Retry after         * yielding.         */         Thread.yield();         continue;      }       if (server.isAlive()) {         return (server);      }       // Shouldn't actually happen.. but must be transient or a bug.       server = null;       Thread.yield();    }     return server;  }  @Override  public Server choose(Object key) {    return choose(getLoadBalancer(), key);  }  @Override  public void initWithNiwsConfig(IClientConfig clientConfig) {    // TODO Auto-generated method stub      } }

　　我们来看看这个类AbstractLoadBalancerRule

1 2 3 4 5 6 7 8 9 10 11 12 13

public abstract class AbstractLoadBalancerRule implements IRule, IClientConfigAware {   private ILoadBalancer lb;        @Override   public void setLoadBalancer(ILoadBalancer lb){     this.lb = lb;  }      @Override   public ILoadBalancer getLoadBalancer(){     return lb;  }    }

这里我们能发现，还是我们上面所说过的 实现了IRule就能够自定义负载均衡即使是他默认的策略也实现了IRule

我们可以直接把代码copy过来改动一点:

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79 80 81

package com.luban.rule; import com.netflix.client.config.IClientConfig; import com.netflix.loadbalancer.AbstractLoadBalancerRule; import com.netflix.loadbalancer.ILoadBalancer; import com.netflix.loadbalancer.Server; import java.util.List; import java.util.Random;   public class TestRule extends AbstractLoadBalancerRule {   //原来是纯随机策略 我们现在改为。 如果一个下标已经被随机到了2次了，第三次还是同样的下标的话，那就再随机一次   Random rand;   private int lastIndex = -1;   private int nowIndex = -1;   private int skipIndex = -1;   public LubanRule() {     rand = new Random();  }   /**   * Randomly choose from all living servers   */   public Server choose(ILoadBalancer lb, Object key) {     if (lb == null) {       return null;    }     Server server = null;     while (server == null) {       if (Thread.interrupted()) {         return null;      }       List<Server> upList = lb.getReachableServers();       List<Server> allList = lb.getAllServers();       int serverCount = allList.size();       if (serverCount == 0) {         /*         * No servers. End regardless of pass, because subsequent passes         * only get more restrictive.         */         return null;      }       int index = rand.nextInt(serverCount);       System.out.println("当前下标为:"+index);       if (skipIndex>=0&&index == skipIndex) {         System.out.println("跳过");         index = rand.nextInt(serverCount);         System.out.println("跳过后的下标:"+index);      }       skipIndex=-1;       nowIndex = index;       if (nowIndex == lastIndex) {         System.out.println("下一次需要跳过的下标"+nowIndex);         skipIndex = nowIndex;      }       lastIndex = nowIndex;       server = upList.get(index);       if (server == null) {         /*         * The only time this should happen is if the server list were         * somehow trimmed. This is a transient condition. Retry after         * yielding.         */         Thread.yield();         continue;      }     if (server.isAlive()) {         return (server);      }       // Shouldn't actually happen.. but must be transient or a bug.       server = null;       Thread.yield();    }     return server;  }   @Override   public Server choose(Object key) {     return choose(getLoadBalancer(), key);  }   @Override   public void initWithNiwsConfig(IClientConfig clientConfig) {     // TODO Auto-generated method stub  } }

　　这里我们就把自己写的Rule给new出来交给spring 就好了

1 2 3 4

@Bean public IRule iRule(){   return new TestRule (); }

　　自定义的负载均衡就这样完成了。

Feign负载均衡

Feign是什么 :

Feign是一个声明式WebService客户端。使用Feign能让编写Web Service客户端更加简单, 它的使用方法是定义一个接口，然后在上面添加注解，同时也支持JAX-RS标准的注解。Feign也支持可拔插式的编码器和解码器。SpringCloud对Feign进行了封装，使其支持了Spring MVC标准注解和HttpMessageConverters。Feign可以与Eureka和Ribbon组合使用以支持负载均衡。

Feign 能干什么：

Feign旨在使编写Java Http客户端变得更容易。 前面在使用Ribbon+RestTemplate时，利用RestTemplate对http请求的封装处理，形成了一套模版化的调用方法。但是在实际开发中，由于对服务依赖的调用可能不止一处，往往一个接口会被多处调用，所以通常都会针对每个微服务自行封装一些客户端类来包装这些依赖服务的调用。所以，Feign在此基础上做了进一步封装，由他来帮助我们定义和实现依赖服务接口的定义。在Feign的实现下，我们只需创建一个接口并使用注解的方式来配置它(以前是Dao接口上面标注Mapper注解,现在是一个微服务接口上面标注一个Feign注解即可)，即可完成对服务提供方的接口绑定，简化了使用Spring cloud Ribbon时，自动封装服务调用客户端的开发量。

如何使用？

在客户端(User)引入依赖：

1 2 3 4

<dependency>   <groupId>org.springframework.cloud</groupId>   <artifactId>spring-cloud-starter-openfeign</artifactId> </dependency>

在启动类上面加上注解: @EnableFeignClients
然后编写一个service类加上@FeignClient(“xxx”)注解 参数就是你的微服务名字

1 2 3 4 5

@FeignClient("SERVER-POWER") public interface PowerServiceClient {   @RequestMapping("/power.do")   public Object power(); }

下面是调用代码：

1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16

@RestController public class UserController {   private static final String URL="http://SERVER-POWER";   @Autowired   private RestTemplate restTemplate;   @Autowired   PowerServiceClient powerServiceClient;<br>   @RequestMapping("/power.do")   public Object power(){     return  restTemplate.getForObject(URL+"/power.do",Object.class);  }<br>   @RequestMapping("/feignPower.do")   public Object feignPower(){     return powerServiceClient.power();  } }

Feign集成了Ribbon利用Ribbon维护了服务列表信息，并且融合了Ribbon的负载均衡配置，也就是说之前自定义的负载均衡也有效，这里需要多测试几遍多理解一下。

而与Ribbon不同的是，通过feign只需要定义服务绑定接口且以声明式的方法，优雅而简单的实现了服务调用。

Ribbon和Feign的区别

Ribbon：

是一个基于 HTTP 和 TCP 客户端 的负载均衡的工具。
它可以 在客户端 配置 RibbonServerList（服务端列表），使用 HttpClient 或 RestTemplate 模拟http请求，步骤相当繁琐。

Feign：

Feign 是在 Ribbon的基础上进行了一次改进，是一个使用起来更加方便的 HTTP 客户端。

采用接口的方式， 只需要创建一个接口，然后在上面添加注解即可 ，将需要调用的其他服务的方法定义成抽象方法即可， 不需要自己构建http请求。

然后就像是调用自身工程的方法调用，而感觉不到是调用远程方法，使得编写 客户端变得非常容易。

代码方面的用法区别：

Ribbon：用 REST_URL_PREFIX 指定请求地址 ， 使用 restTemplate 模拟 http 请求。也就是说需要自己来构建发起HTTP请求

Feign：

a) 新建一个接口，添加@FeignClient 注解，指定微服务名称 MICROSERVICECLOUD-DEPT
b) 指定请求地址 @RequestMapping