hadoop
iteye_14058
这个作者很懒,什么都没留下…
展开
-
搭建hadoop集群环境
[b]1) 安装jdk[/b]下载jdk-6u21-linux-i586.bin然后修改/etc/profile:[code="java"]export JAVA_HOME=/usr/local/jdkexport CLASSPATH=.:$JAVA_HOME/lib:$JRE_HOME/lib:$CLASSPATHexport PATH=$PATH:$JAVA_HOME/bi...原创 2011-01-21 15:52:04 · 78 阅读 · 0 评论 -
HBase 运行在security-enabled Hadoop
考虑到安全性,对Hadoop使用了Kerberos进行安全性验证hbase需要运行在security-enabled Hadoop,需要对hbase打个补丁,见附件[code="java"] patch -p1 < ../HBASE-3582_2.patch[/code]成功以后,会显示:[code="java"]patching file src/main/java/...原创 2011-04-03 13:06:41 · 274 阅读 · 0 评论 -
hadoop使用LZO压缩
1。安装LZOsudo apt-get install liblzo2-dev或者下载lzo2http://www.oberhumer.com/opensource/lzo/download/. ./configure --enable-sharedmake make install确认安装成功[code="java"]% ls -l /usr/lib*/l...2011-03-21 19:51:42 · 210 阅读 · 0 评论 -
Cloudera 局域网安装部署
集群部署在局域网内部,与外网隔离开来。[size=large]第一步,下载安装包和相关文件。[/size] 其实 cloudera 就有一个 yum源,查看一下http://archive.cloudera.com/redhat/cdh/3/ ,yum源的结构就很清晰了。 [code="java"]wget -mc http://archive.cloudera.com/r...2011-03-07 11:26:13 · 159 阅读 · 0 评论 -
Hadoop删除节点(Decommissioning Nodes)
[b]1.集群配置[/b] 修改[b]conf/hdfs-site.xml[/b]文件[code="xml"] dfs.hosts.exclude /data/soft/hadoop/conf/excludes Names a file that contains a list of hosts that are not permitted to connect...原创 2011-02-15 13:37:17 · 399 阅读 · 0 评论 -
Hadoop添加节点datanode
[b]1.部署hadoop[/b] 和普通的datanode一样。安装jdk,ssh[b]2.修改host[/b] 和普通的datanode一样。添加namenode的ip[b]3.修改namenode的配置文件conf/slaves[/b] 添加新增节点的ip或host[b]4.在新节点的机器上,启动服务[/b][code="java"] [root@slave...原创 2011-02-15 11:39:03 · 107 阅读 · 0 评论 -
Hadoop回收站trash
Hadoop回收站trash,默认是关闭的。习惯了window的同学,建议最好还是把它提前开开,否则误操作的时候,就欲哭无泪了1.修改[b]conf/core-site.xml[/b],增加[code="xml"] fs.trash.interval 1440 Number of minutes between trash checkpoints. If z...2011-02-12 14:31:21 · 172 阅读 · 0 评论 -
Namenode恢复
Namenode恢复1.修改[b]conf/core-site.xml[/b],增加[code="xml"] fs.checkpoint.period 3600 The number of seconds between two periodic checkpo...原创 2011-02-12 13:31:11 · 308 阅读 · 0 评论 -
Hbase使用已经安装的zookeeper
1.修改conf/hbase-env.sh,添加jdk支持 [code="java"]export JAVA_HOME=/usr/local/jdk export HBASE_MANAGES_ZK=false[/code]2.拷贝zookeeper的配置文件zoo.cfg到HBase的CLASSPATH(官方推荐的方式)[code="java"]root@master:/dat...原创 2011-01-27 16:18:47 · 142 阅读 · 0 评论 -
zookeeper集群的安装
前提是安装完成hadoop[b]1)下载zookeeper-3.4.5.tar.gz[/b]解压到每台服务器的/opt/soft解压[code="java"]root@master:/opt/soft# tar zxvf zookeeper-3.4.5.tar.gz[/code]建立软连[code="java"]root@master:/opt/soft# ln -s zookee...原创 2011-01-27 16:16:19 · 93 阅读 · 0 评论 -
Hbase配置手册
Hbase配置手册[b]1)下载hbase[/b]解压到每台服务器的/data/soft解压[code="java"]root@master:/data/soft# tar zxvf hbase-0.90.0.tar.gz[/code]建立软连[code="java"]root@master:/data/soft# ln -s hbase-0.90.0 hbase[/code]...原创 2011-01-26 14:31:31 · 114 阅读 · 0 评论 -
ganglia安装配置
Ganglia 是 UC Berkeley 发起的一个开源监视项目,设计用于测量数以千计的节点。每台计算机都运行一个收集和发送度量数据(如处理器速度、内存使用量等)的名为 gmond 的守护进程。它将从操作系统和指定主机中收集。接收所有度量数据的主机可以显示这些数据并且可以将这些数据的精简表单传递到层次结构中。正因为有这种层次结构模式,才使得 Ganglia 可以实现良好的扩展。gmond 带来的...原创 2011-04-19 10:04:28 · 97 阅读 · 0 评论