hadoop secondarynamenode的两种配置方式

hadoop secondarynamenode的两种配置方式,hadoop版本是hadoop-1.0.4:

集群分配关系:

masterJobTracker&&Namenode
node1Secondarynamenode
node2TaskTracker&&Datanode
node3TaskTracker&&Datanode
node4TaskTracker&&Datanode

配置1:

1.conf/core-site.xml:

<configuration>
<property>
	<name>hadoop.tmp.dir</name>
	<value>/home/hadoop/hadooptmp</value>
	<description>A base for other temporary directories.</description>
</property>

<property>
	<name>fs.default.name</name>
	<value>hdfs://master:9000</value>
</property>
</configuration>

2.conf/hadoop-env.sh:

export JAVA_HOME=/home/hadoop/jdk1.x.x_xx

3. conf/hdfs-site.xml:

<configuration>
<property>
	<name>dfs.replication</name>
	<value>2</value>
</property>

<property>
     <name>dfs.data.dir</name>
     <value>/home/hadoop/hadoopfs/data</value>
 </property>
<property>
	<name>dfs.http.address</name>
	<value>master:50070</value>
</property>

<property>
	<name>dfs.back.http.address</name>
	<value>node1:50070</value>
</property>

<property>
	<name>dfs.name.dir</name>
	<value>/home/hadoop/hadoopfs/name</value>
</property>

<property>
	<name>fs.checkpoint.dir</name>
	<value>/home/hadoop/hadoopcheckpoint</value>
</property>

<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
</configuration>

4.conf/mapred-site.xml:

<configuration>
<property>
	<name>mapred.job.tracker</name>
	<value>master:9001</value>
</property>
<property>
	<name>mapred.tasktracker.map.tasks.maximum</name>
	<value>4</value>
</property>
<property>
	<name>mapred.tasktracker.reduce.tasks.maximum</name>
	<value>4</value>
</property>
<property>
	<name>mapred.child.java.opts</name>
	<value>-Xmx1000m</value>
</property>
</configuration>

5. conf/masters:

master

6.conf/secondarynamenode(此为新建的文件)

node1

7. conf/slaves:

node2
node3
node4

8.bin/start-dfs.sh:

"$bin"/hadoop-daemon.sh --config $HADOOP_CONF_DIR start namenode $nameStartOpt
"$bin"/hadoop-daemons.sh --config $HADOOP_CONF_DIR start datanode $dataStartOpt
"$bin"/hadoop-daemons.sh --config $HADOOP_CONF_DIR --hosts secondarynamenode start secondarynamenode

9.bin/stop-dfs.sh:

"$bin"/hadoop-daemon.sh --config $HADOOP_CONF_DIR stop namenode $nameStartOpt
"$bin"/hadoop-daemons.sh --config $HADOOP_CONF_DIR stop datanode $dataStartOpt
"$bin"/hadoop-daemons.sh --config $HADOOP_CONF_DIR --hosts secondarynamenode stop secondarynamenode

配置2:

1.conf/core-site.xml:

<configuration>
<property>
	<name>hadoop.tmp.dir</name>
	<value>/home/hadoop/hadooptmp</value>
	<description>A base for other temporary directories.</description>
</property>

<property>
	<name>fs.default.name</name>
	<value>hdfs://master:9000</value>
</property>
</configuration>

2.conf/hadoop-env.sh:

export JAVA_HOME=/home/hadoop/jdk1.x.x_xx

3. conf/hdfs-site.xml:

<configuration>
<property>
	<name>dfs.replication</name>
	<value>2</value>
</property>

<property>
     <name>dfs.data.dir</name>
     <value>/home/hadoop/hadoopfs/data</value>
 </property>
<property>
	<name>dfs.http.address</name>
	<value>master:50070</value>
</property>

<property>
	<name>dfs.back.http.address</name>
	<value>node1:50070</value>
</property>

<property>
	<name>dfs.name.dir</name>
	<value>/home/hadoop/hadoopfs/name</value>
</property>

<property>
	<name>fs.checkpoint.dir</name>
	<value>/home/hadoop/hadoopcheckpoint</value>
</property>

<property>
<name>dfs.permissions</name>
<value>false</value>
</property>
</configuration>

4.conf/mapred-site.xml:

<configuration>
<property>
	<name>mapred.job.tracker</name>
	<value>master:9001</value>
</property>
<property>
	<name>mapred.tasktracker.map.tasks.maximum</name>
	<value>4</value>
</property>
<property>
	<name>mapred.tasktracker.reduce.tasks.maximum</name>
	<value>4</value>
</property>
<property>
	<name>mapred.child.java.opts</name>
	<value>-Xmx1000m</value>
</property>
</configuration>

5. conf/masters:

node1

7. conf/slaves:

node2
node3
node4

还有就是昨天写的secondarynamenode的使用,应该也是有拷贝secondarynamenode的文件到namenode的过程的,

因为昨天测试的时候只是在一个机器上搞,所以就少了复制这一步,今天用了集群进行测试,才发现要拷贝的。

上面的两种方式已经经过集群测试,证明可用。


http://blog.csdn.net/fansy1990/article/details/8990206

  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值