基于hessian和netty的RPC框架设计和实现

一:概述

        对系统进行服务化改造,或者构建一个分布式系统,RPC是核心的组件,目前主流的RPC框架有hessian\thrift\ avro等,如果不考虑跨语言的话thrift\ avro使用起来稍显复杂,要写IDL序列化配置,hessian又依赖servlet容器,于是使用netty和hessian构建了一个的RPC框 架。

        hessian是一种二进制的序列化工具,支持C++,python,rubyd等跨平台,但主要是面向java平台,其他语言的实现更新很慢。以下是参 考网上的hessian序列化性能测试情况,从测试指标来看,跟Protocol Buffers有些差距,但总体表现还是不错的。

              序列化


 

             反序列化

      Netty 是一个基于NIO的网络通讯、服务器端编程框架,使用Netty 可以快速和简单的开发出一个网络应用,据非权威测试,在请求应答消息相同的情况下,HTTP方式的TPS是500左右,Netty模式是1.5万左右,还 有更极端的优化到了10W TPS。可见其性能,稳定性和伸缩性都是在业界被普遍认可的。

        RPC的核心就是数据序列化和网络传输,一个典型的PRC服务发布和调用过程主要经历三个阶段,服务导出,服务处理,数据传输,如下图:


 

二:服务导出

服务定义

服务元数据


 

导出工具

一般会在服务器启动前进行导出


 

      以上就是服务导出的过程,首先的定义服务属性,包括服务名称,接口,实现类。然后就是服务的元数据,包含接口,方法签名。所谓导出,其实就是将这些元数据解析出来并进行缓存,以便在调用过程中能够根据服务名称找到服务的定义。

三 网络服务

 

      RPC服务器,通过NETTY的ServerBootStrap来定义,可以看到是使用NIO的方式来处理网络读写的 (NioServerSocketChannelFactory)。bossThreadFactory用来接收客户端连 接,workerThreadFactory用来执行具体的IO操作。ChannelPipeline是一个消息通道,对消息进行编码,解码,压缩,处理 的一个处理器链条,应该是Chain of Responsibility。rpcHandler 是进行服务查找,序列化,反序列化,反射调用的处理器,也是整个RPC框架的核心。

     rpcHandler 继承自SimpleChannelUpstreamHandler,ChannelUpstreamHandler处理上行的通道事件,并且在流水线中传 送事件。这个接口最常用的场景是拦截IO工作线程产生的事件,传输消息或者执行相关的业务逻辑。在大部分情况下,我们是使用 SimpleChannelUpstreamHandler 来实现一个具体的upstream handler,因为它为每个事件类型提供了单个的处理方法。大多数情况下ChannelUpstreamHandler 是向上游发送事件。

       rpcHandler 中使用独立的threadpool是用来处理具体业务的操作,尽量不占用IO线程(Server中的workerThreadFactory)。

     doSerivce是处理服务请求的方法,通过URL获取serviceName,再从输入流中用hessian反序列化获取 AbstractHessianInput,能从中获取调用方法的名称,参数列表,参数类型列表等调用方信息。有了这些信息就可以从 SerivceExporter中获取服务定义,找到服务的实现类processorClass,进行反射调用并返回结果。服务处理的过程,其实就是一个 HTTP监听,拿到请求数据,反序列化,反射调用并返回的过程。

 

四 客户端

     客户端可以方便的通过Hessian自带的代理工厂进行实现,用短连接进行同步调用。一般RPC使用异步调用的情况不多,使用HessianProxyFactory可以满足大部分场景。

        如果RPC中处理的方法耗时较长或者对性有极高的要,则需要使用可复用的长连接进行异步调用,在做这个RPC工具的时候没有实现异步客户端,不过在别的项目中用到过异步调用的情况,这里给出实现代码供参考。

           以上是一个异步的netty客户端,大致思路就是,每一次发送请求都会给request一个 ID(atomicLong.getAndIncrement()),并实例化一个ResponseFuture进行缓存,当发送同步请求的时候,调用 Condition中的await方法,让线程阻塞,成功返回后,调用Condition中的signal唤醒阻塞的线程。当发送异步请求的时候,不阻塞 线程,成功返回后,根据ResponseFuture中的request id找到回调函数,进行回调。最后删除ResponseFuture缓存。

五  SPRING 支持

      现在的企业开发spring有一统天下的趋势,如果RPC工具不支持SPRING集成,使用起来非常不方便。Spring提供自定义配置支持,通过扩展Schema,就可以完成标签的配置。

     第一步、在classpath下新建META-INF目录,在目录中定义nhrpc.XSD

      第二部、定义spring.handlers

      第三步、定义spring.schemas

第四步、实现命名空间处理器和标签解析器

      命名空间处理器集成自NamespaceHandlerSupport,作用是告诉spring标签用那个解析器来解析。

       标签解析器实现自BeanDefinitionParser,重写其中的doParse方法对标签进行解析,读取标签中的属性,子标签等,用来构造 BeanDefinition,然后注册到ParserContext,当BeanDefinition 注册完毕以后, Spring Bean 工厂就可以随时根据需要进行实例化该bean 了。

         自定义标签添加完成后,就可以通过spring的配置方式来进行RPC服务的发布和调用了。

        是不是感觉方便很多。

五,总结

        rpc框架的实现过程并不复杂,关键点还是在于怎么选择高效的序列化协议,和高效的网络传输。源码地址:http://git.oschina.net/wj596/nhrpc

展开阅读全文

没有更多推荐了,返回首页