分布式 - RPC同步和异步说明

要实时就用同步,要吞吐率就用异步。

同步调用

流程略

实现负载均衡:连接池中建立了与一个RPC-server集群的连接,连接池在返回连接的时候,需要具备负载均衡策略。
实现故障转移:连接池中建立了与一个RPC-server集群的连接,当连接池发现某一个机器的连接异常后,需要将这个机器的连接排除掉,返回正常的连接,在机器恢复后,再将连接加回来。
实现发送超时:因为是同步阻塞调用,拿到一个连接后,使用底层socket带超时的send/recv即可实现带超时的发送和接收。

异步调用

流程略

为什么要待发送队列、待接收队列?
因为要将工作线程和io收发线程两者的同步关系解除,从而引入工作线程池和io收发线程池。

为什么要上下文
因为请求包的发送,响应包的callback回调不在同一个工作线程中完成,需要一个context来记录一个请求的上下文,把请求-响应-回调等一些信息匹配起来。通过rpc框架的内部请求id作为key,来保存调用开始时间time,超时时间timeout,回调函数callback,超时回调timeout_callback等信息。
注意:请求id由client端服务调用时生成,会序列化成字节流发送给server端,server端会返回该请求id。

负载均衡,故障转移
与同步调用的连接池思路基本相同。
注意:由于同步调用的连接池使用阻塞方式收发,需要与一个服务的一个server ip建立多条连接来保证client端多个服务同时路由到同一个server时不会阻塞。而由于异步调用,server端会很快返回response,所以client端多个服务同时路由到同一个server的情况是很少的,因此一个服务的一个server ip只需要建立少量的连接。

超时发送与接收
超时管理器启动timer对上下文管理器中的所有context进行扫描,看上下文中请求发送时间是否过长,如果过长,就不再等待result包,将该context从上下文管理器中移除,直接执行timeout_callback。
注意:如果timeout_callback执行后,client端接收到了server端的result包,此时因为通过req-id在上下文管理器里找不到对应的context(说明已经超时处理过了),就直接将请求丢弃。

阅读更多

扫码向博主提问

twjitm

博客专家

非学,无以致疑;非问,无以广识
  • 擅长领域:
  • java
  • spring
  • mybatis
  • hibernate
  • javaweb
去开通我的Chat快问
换一批

没有更多推荐了,返回首页