大数据
MonkeyJoey
这个作者很懒,什么都没留下…
展开
-
java RMI 注册服务
如何使用java RMI 包实现一个RPC1.需要使用到的两个类:java.rmi.server.UnicastRemoteObject类和java.rmi.Remote接口1.Remote接口/** * The <code>Remote</code> interface serves to identify interfaces whose * methods may be invoked f原创 2015-12-16 00:19:01 · 1573 阅读 · 0 评论 -
hadoop RPC过程1
使用Hadoop源代码启动了一个RPCServer端和一个RPC的client端,模拟了hadoop的远程调度的过程。 1.RPCServer 1.RpcEngine Server server = new RPC.Builder(conf) //.setProtocol(org.apache.hadoop.hdfs.protocolPB.ClientNamenodePr原创 2015-12-22 22:47:33 · 582 阅读 · 0 评论 -
hadoop中的设计模式1
builder 模式是为了隐藏对象的创建过程,并且很好地管理大量的创建对象参数。在《effective java》中就强烈推荐了这种创建对象的模式。 在NameNode中构建RPCServer会使用到这段代码: this.serviceRpcServer = new RPC.Builder(conf) .setProtocol( org.apache.had原创 2015-12-20 14:24:13 · 1434 阅读 · 0 评论 -
HFile Mapreduce阶段的优化
Optimize Map/Reduce Job for HBase 1 背景 2 Map阶段的木桶原理 3 MapTask的产生 4 优化 1.背景MapReduce 的优化工作一直比较受重视,官方也提供了很多的接口。不同的实际生产环境可以使用自己开发的API,来获得更好的效率。这次分享一下最近开发的一个HFile的MapReduce的优化开发思想。2.Map阶段的木桶原原创 2015-12-05 12:58:39 · 1056 阅读 · 1 评论 -
linux编译azkaban
https://github.com/azkaban/azkabandownload下zip包,解压执行./gradlew distTar,报错信息g++命令出错。azkaban是依赖gc命令的,系统没有安装g++sudo apt-get install g++执行./gradlew distTar,报错信息git命令出错。系统没有安装gitsudo apt-get install git执行./g原创 2015-12-27 13:41:39 · 2811 阅读 · 0 评论