Spark RPC之RpcEndpointVerifier


概要


Spark RPC概述中介绍了Spark PRC抽象接口RpcEndpointRef 、RpcEndpoint的用法,RpcEndpointVerifier的作用是,当RpcEndpointRef访问对应的RpcEndpoint前,判断RpcEndpoint是否存在。

1. 定义


在这里插入图片描述
RpcEndpointVerifier定义如上图,主要有两点

  1. RpcEndpointVerifier也是RpcEndpoint的实现类,就意味着和Master、Worker等RpcEndpoint实现类处理消息的流程一致,具体参考这两篇Spark RPC之RpcRequest请求处理流程Spark RPC之RpcResponse处理,后面不再介绍。
  2. 定义了消息类型CheckExistence

2. 请求流程


上图的Spark PRC例子主要做了以下几件事:

  1. 代码82行,此处省略了env对象的创建,创建env调用RpcEnv.create方法,同时底层会注册RpcEndpointVerifier到Dispatcher,名字为endpoint-verifier,服务client端请求。
  2. 82-88行,server端注册对象RpcEndpoint,名字为send-remotely。
  3. 90行,创建client端RpcEnv对象。
  4. 91行,Client端获取针对server端的RpcEndpointRef对象,此对象用来和步骤1中注册的名称为send-remotelyRpcEndpoint通信,底层NettyRpcEnv发送消息RpcEndpointVerifier.CheckExistence(“send-remotely”)server端,server端使用步骤1中注册的RpcEndpointVerifier处理,返回RpcEndpoint是否存在
  5. 93行,进行通信。

3. server端注册RpcEndpointVerifier


如上面步骤1描述,创建RpcEnv对象时底层会注册RpcEndpointVerifierDispatcher,以deploy模块中Master类创建RpcEnv为例,流程如下 :
在这里插入图片描述
NettyRpcEnvstartServer方法中注册RpcEndpointVerifier,源码如下
在这里插入图片描述至此,server端完成了RpcEndpointVerifier的注册,后续对于client请求的处理,参考Spark RPC之RpcRequest请求处理流程Spark RPC之RpcResponse处理

4. client发请求CheckExistence


如Spark PRC例子中步骤5描述,调用setupEndpointRef方法会发送CheckExistence消息,检查RpcEndpoint是否存在,简单流程如下
在这里插入图片描述
NettyRpcEnv.asyncSetupEndpointRefByURI方法中发送消息CheckExistence的源码如下 : 异步检索由“uri”表示的[[rpcendpointref]]
在这里插入图片描述
在这里插入图片描述
到这里,client发送消息的过程就结束了.

此外,ask方法发送信息到server的详细流程和server端如何利用注册的RpcEndpointVerifier处理请求, 请参考Spark RPC之RpcRequest请求处理流程Spark RPC之RpcResponse处理

总结

介绍了RpcEndpointVerifier的定义和作用,以及发挥其作用的完整流程,到这里,关于Spark RPC的源码解读也告一段落了,spark-core中RPC模块的代码基本都覆盖到了。

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
首先不要急于去启动服务。 根据经验,电脑有很大可能存在病毒。. 首先,你看看注册表HKEY_LOCAL_MACHINE\SYSTEM \CurrentControlSet\Services\RpcSs\Parameters 下,有没有ServiceDll的键值,其类型为"REG_EXPAND_SZ".如果有,在看看数值数据是不 是%SystemRoot%\system32\rpcss.dll 如果没有.那么在c:\windows\system32目录下面你也找不到"rpcss.dll"文件的.此时你就得新建此键值,并从网上或者其它电脑 上拷贝"rpcss.dll"文件放到c:\windows\system32目录下面(注意:如果RPC服务不能启动的话."粘贴"功能是不能用的,所 以在用U盘之类的拷贝RPCSS.dll文件,最好是把RPCSS.dll压缩成包.然后通过解压的方式放到system32目录).到此.重启计算机. 应该就行了. 把以下内容保存成reg文件: Windows Registry Editor Version 5.00 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\RpcSs] "Description"="提供终结点映射程序 (endpoint mapper) 以及其它 RPC 服务。" "DisplayName"="Remote Procedure Call (RPC)" "ErrorControl"=dword:00000001 "Group"="COM Infrastructure" "ImagePath"=hex(2):25,00,53,00,79,00,73,00,74,00,65,00,6d,00,52,00,6f,00,6f,00,\ 74,00,25,00,5c,00,73,00,79,00,73,00,74,00,65,00,6d,00,33,00,32,00,5c,00,73,\ 00,76,00,63,00,68,00,6f,00,73,00,74,00,20,00,2d,00,6b,00,20,00,72,00,70,00,\ 63,00,73,00,73,00,00,00 "ObjectName"="NT AUTHORITY\\NetworkService" "Start"=dword:00000002 "Type"=dword:00000020 "FailureActions"=hex:00,00,00,00,00,00,00,00,00,00,00,00,01,00,00,00,00,00,00,\ 00,02,00,00,00,60,ea,00,00 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\RpcSs\Parameters] "ServiceDll"=hex(2):25,00,53,00,79,00,73,00,74,00,65,00,6d,00,52,00,6f,00,6f,\ 00,74,00,25,00,5c,00,73,00,79,00,73,00,74,00,65,00,6d,00,33,00,32,00,5c,00,\ 72,00,70,00,63,00,73,00,73,00,2e,00,64,00,6c,00,6c,00,00,00 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\RpcSs\Security] "Security"=hex:01,00,14,80,a8,00,00,00,b4,00,00,00,14,00,00,00,30,00,00,00,02,\ 00,1c,00,01,00,00,00,02,80,14,00,ff,01,0f,00,01,01,00,00,00,00,00,01,00,00,\ 00,00,02,00,78,00,05,00,00,00,00,00,14,00,8d,00,02,00,01,01,00,00,00,00,00,\ 05,0b,00,00,00,00,00,18,00,ff,01,0f,00,01,02,00,00,00,00,00,05,20,00,00,00,\ 20,02,00,00,00,00,18,00,8d,00,02,00,01,02,00,00,00,00,00,05,20,00,00,00,23,\ 02,00,00,00,00,14,00,9d,00,00,00,01,01,00,00,00,00,00,05,04,00,00,00,00,00,\ 18,00,9d,00,00,00,01,02,00,00,00,00,00,05,20,00,00,00,21,02,00,00,01,01,00,\ 00,00,00,00,05,12,00,00,00,01,01,00,00,00,00,00,05,12,00,00,00 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Services\RpcSs\Enum] "0"="Root\\LEGACY_RPCSS\\0000" "Count"=dword:00000001 "NextInstance"=dword:00000001 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Enum\Root\LEGACY_RPCSS] "NextInstance"=dword:00000001 [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Enum\Root\LEGACY_RPCSS\0000] "Service"="RpcSs" "Legacy"=dword:00000001 "ConfigFlags"=dword:00000020 "Class"="LegacyDriver" "ClassGUID"="{8ECC055D-047F-11D1-A537-0000F8753ED1}" "DeviceDesc"="Remote Procedure Call (RPC)" [HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Enum\Root\LEGACY_RPCSS\0000\Control] "ActiveService"="RpcSs" 然后双击导入注册表。 接着在cmd下用sc开服务: sc config Remote Procedure Call(RPC) binpath= c:\windows\system32\svchost.exe -k rpcss start= auto 希望有用~~
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值