hadoop
_小蚂蚁_
这个作者很懒,什么都没留下…
展开
-
hadoop2.x安装
[b][size=x-large][align=center]hadoop2.x安装[/align][/size][/b] [b]1.[color=green]搭建虚拟机(使用桥接网络,以便设置ssh连接,注意版本)[/color] 2.[color=green]安装jdk[/color] 3.[color=green]编辑hosts的文件[/color] 4.[color=green]关...原创 2014-09-08 23:37:14 · 121 阅读 · 0 评论 -
MapReduce任务的优化
[b][size=x-large][align=center]MapReduce任务的优化[/align][/size][/b] MapReduce计算模型的优化涉及了方方面面的内容,但是主要集中在两个方面:一是计算性能方面的优化;二是,I/O操作方面的优化。这其中,又包括六个方面的内容。 [b]1.任务调度[/b] 任务调度是hadoop中非常重要的...原创 2014-07-07 13:02:26 · 158 阅读 · 0 评论 -
HDFS的基本概念
[b]1、数据块(block)[/b] HDFS(Hadoop Distributed File System)默认的最基本的存储单位是64M的数据块。 和普通文件系统相同的是,HDFS中的文件是被分成64M一块的数据块存储的。 不同于普通文件系统的是,HDFS中,如果一个文件小于一个数据块的大小,并不占用整个数据块存储空间。 [b]2、元数据节点(Namenode)和数据...原创 2014-05-09 11:35:31 · 128 阅读 · 0 评论 -
hadoop作业调优参数整理及原理(转)
[b]1 Map side tuning参数[/b] [size=xx-small]1.1 MapTask运行内部原理[/size] [img]http://images.cnitblog.com/blog/360373/201310/05162523-0fc63548193149f6bef91d2e5f90889d.jpg[/img] 当map task开始运算,并产生中间...原创 2014-05-09 11:05:39 · 91 阅读 · 0 评论
分享