ViewFS的配置

为了解决Federation配置的问题(访问集群的时候我们要记住每个NameNode所在节点的名称)

ViewFS配置(在master节点配置):

  • 配置前先关闭集群
  • 1、配置core-site.xml:
将原本的文件:
<configuration >
        <property>
                <name>fs.defaultFS</name>
                <value>hdfs://master:9999</value>
                <description>表示HDFS的基本路径</description>
        </property>
</configuration>
改成:
<configuration xmlns:xi="http://www.w3.org/2001/XInclude">
        <xi:include href="mountTable.xml"/>
        <property>
                 <name>fs.default.name</name>
                <value>viewfs://my-cluster</value>
        </property>
</configuration>
其余的<property></property>内容保持不变(可以选择注释)
  • 2、增加mountTable.xml:
<configuration>
  <property>
    <name>fs.viewfs.mounttable.my-cluster.link./user</name>
    <value>hdfs://master:9999/user</value>
  </property>
  <property>
    <name>fs.viewfs.mounttable.my-cluster.link./tmp</name>
    <value>hdfs://master:9999/tmp</value>
  </property>
  <property>
    <name>fs.viewfs.mounttable.my-cluster.link./projects/foo</name>
    <value>hdfs://slave1:9999/projects/foo</value>
  </property>
  <property>
    <name>fs.viewfs.mounttable.my-cluster.link./projects/bar</name>
    <value>hdfs://slave1:9999/projects/bar</value>
  </property>
</configuration>
  • 3、将core-site.xml mountTable.xml同步到slave1、slave2上
    scp core-site.xml mountTable.xml hadoop-twq@slave1:~/bigdata/hadoop-2.7.5/etc/hadoop/
    scp core-site.xml mountTable.xml hadoop-twq@slave2:~/bigdata/hadoop-2.7.5/etc/hadoop/
  • 4、启动集群
  • 5、在master、slave1上执行hadoop fs -ls /发现看到的数据都一样,如此一来,无论是在master、slave1还是slave2上执行hadoop fs -ls viewfs://my-cluster/这个基本路径后看到数据都一样,这样用户就不用记住NameNode安装在那里,方便了用户
  • 6、通过执行hadoop fs -ls viewfs://my-cluster/我们看到的结果是一样的,这是呈现给用户的,而实际上,我们看到的结果在第二步mountTable.xml文件中配置得到的,通过这个配置我们可以知道,结果中呈现的viewfs://my-cluster/user这个目录由master的这个NameNode来管理的,viewfs://my-cluster/tmp这个目录也是由master的这个NameNode来管理的,而viewfs://my-cluster/projects这个目录是由slave1这个NameNode来管理的。

 

 
 
 
 

转载于:https://www.cnblogs.com/jichui/p/10444556.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值