第四章 远程调用负载均衡 Ribbon
4.1 什么是负载均衡
通俗的讲, 负载均衡就是将负载(工作任务,访问请求)进行分摊到多个操作单元(服务器,组件)上进行执行。
根据负载均衡发生位置的不同,一般分为服务端负载均衡和客户端负载均衡。
服务端负载均衡指的是发生在服务提供者一方,比如常见的Nginx负载均衡,而客户端负载均衡指的是发生在服务请求的一方,也就是在发送请求之前已经选好了由哪个实例处理请求
我们在微服务调用关系中一般会选择客户端负载均衡,也就是在服务调用的一方来决定服务由哪个提供者执行。
4.2 自定义负载均衡
- 通过idea再启动一个 shop-product 微服务,设置其端口为8082
- 通过nacos查看微服务的启动情况
- 修改 OrderServiceImpl 的代码,实现负载均衡
@Service
@Slf4j
public class OrderServiceImpl implements OrderService {
@Autowired
private OrderDao orderDao;
@Autowired
private DiscoveryClient discoveryClient;
@Autowired
private RestTemplate restTemplate;
@Override
public Order createOrder(Long productId,Long userId) {
log.info("接收到{}号商品的下单请求,接下来调⽤商品微服务查询此商品信息",
productId);
//从nacos中获取服务地址
//⾃定义规则实现随机挑选服务
List<ServiceInstance> instances = discoveryClient.
getInstances("product-service");
int index = new Random().nextInt(instances.size());
ServiceInstance instance = instances.get(index);
String url = instance.getHost()+":"+instance.getPort();
log.info(">>从nacos中获取到的微服务地址为:" + url);
//远程调⽤商品微服务,查询商品信息
Product product = restTemplate.getForObject(
"http://"+url+"/product/"+productId,Product.class);
log.info("查询到{}号商品的信息,内容是:{}", productId,
JSON.toJSONString(product));
//创建订单并保存
Order order = new Order();
order.setUid(userId);
order.setUsername("西游后记");
order.setPid(productId);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderDao.save(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
- 启动两个服务提供者和一个服务消费者,多访问几次消费者测试效果
4.3 基于Ribbon实现负载均衡
Ribbon是Spring Cloud的一个组件, 它可以让我们使用一个注解就能轻松的搞定负载均衡
- 在RestTemplate 的生成方法上添加@LoadBalanced注解
@SpringBootApplication
@EnableDiscoveryClient
public class OrderServerApplication {
public static void main(String[] args) {
SpringApplication.run(OrderServerApplication.class, args);
}
@Bean
@LoadBalanced //集成ribbon实现负载均衡
public RestTemplate restTemplate(){
return new RestTemplate();
}
}
- 修改OrderServiceImpl服务调用的方法
@Service
@Slf4j
public class OrderServiceImpl implements OrderService {
@Autowired
private OrderDao orderDao;
@Autowired
private RestTemplate restTemplate;
@Override
public Order createOrder(Long productId,Long userId) {
log.info("接收到{}号商品的下单请求,接下来调⽤商品微服务查询此商品信息",
productId);
//远程调⽤商品微服务,查询商品信息
Product product = restTemplate.getForObject(
"http://product-service/product/"+productId,Product.class);
log.info("查询到{}号商品的信息,内容是:{}", productId,
JSON.toJSONString(product));
//创建订单并保存
Order order = new Order();
order.setUid(userId);
order.setUsername("西游后记");
order.setPid(productId);
order.setPname(product.getPname());
order.setPprice(product.getPprice());
order.setNumber(1);
orderDao.save(order);
log.info("创建订单成功,订单信息为{}", JSON.toJSONString(order));
return order;
}
}
- 为了更直观看到请求是进行负载均衡了,我们修改一下ProductController代码
@RestController
@Slf4j
public class ProductController {
@Autowired
private ProductService productService;
@Value("${server.port}")
private String port;
//商品信息查询
@RequestMapping("/product/{pid}")
public Product findByPid(@PathVariable("pid") Long pid) {
log.info("接下来要进⾏{}号商品信息的查询", pid);
Product product = productService.findByPid(pid);
product.setPname(product.getPname()+",data from "+port);
log.info("商品信息查询成功,内容为{}", JSON.toJSONString(product));
return product;
}
}
- 调用订单保存的方法,查看日志.
默认情况下,采取的是ZoneAvoidanceRule的策略,复合判断server所在区域的性能和server的可用性选择server
Ribbon支持的负载均衡策略
Ribbon内置了多种负载均衡策略,内部负载均衡的顶级接口为com.netflix.loadbalancer.IRule , 具体的负载策略如下图所示:
策略名 | 策略描述 | 实现说明 |
---|---|---|
BestAvailableRule | 选择一个最小的并 发请求的server | 逐个考察Server,如果Server被tripped了,则忽略,在选 择其中ActiveRequestsCount最小的server |
AvailabilityFilteringRule | 先过滤掉故障实例,再选择并发较 小的实例; | 使用一个AvailabilityPredicate来包含过滤server的逻辑, 其实就就是检查status里记录的各个server的运行状态 |
WeightedResponseTimeRule | 根据相应时间分配 一个weight,相应 时间越长, weight 越小,被选中的可 能性越低。 | 一个后台线程定期的从status里面读取评价响应时间,为 每个server计算一个weight 。Weight的计算也比较简单 responsetime 减去每个server 自己平均的responsetime 是server的权 |
RetryRule | 对选定的负载均衡 策略机上重试机制。 | 在一个配置时间段内当选择server不成功,则一直尝试使 ⽤subRule的方式选择一个可用的server |
RoundRobinRule | 轮询方式轮询选择 server | 轮询index,选择index对应位置的server |
RandomRule | 随机选择一个server | 在index上随机,选择index对应位置的server |
ZoneAvoidanceRule(默认) | 复合判断server所 在区域的性能和server的可用性选 择server | 使用ZoneAvoidancePredicate和AvailabilityPredicate来 判断是否选择某个server ,前一个判断判定一个zone的运 行性能是否可用,剔除不可用的 zone (的所有server), AvailabilityPredicate用于过滤掉连接数过多的Server。 |
我们可以通过修改配置来调整Ribbon的负载均衡策略,在order-server项目的application.yml中增加如 下配置:
product-service: # 调⽤的提供者的名称
ribbon:
NFLoadBalancerRuleClassName: com.netflix.loadbalancer.RandomRul
引文来源:https://www.bilibili.com/video/BV19T411M787