hadoop hdfs 分布式存储

1.克隆前的工作
 1.配置好网络nat  需要设置静态ip并能通过主机上网
 ssh   和  rsync  是必须下载的
 2.yum install vim wget  rsync  ssh   并配置vim set nu set ts=4 .vimrc 
 3.下载jdk和Hadoop 解压到/usr/local/java 和 /usr/local/hadoop
 4.配置java 和 hadoop 的环境变量  .bashrc
 5.修改 /usr/local/hadoop/etc/hadoop/core-site.xml
  <configuration>
    <property>
      <name>fs.defaultFS</name>
      <value>hdfs://nodeone:9000</value>
    </property>
  </configuration>
   修改/usr/local/hadoop/etc/hadoop/hadoop-env.sh
    export JAVA_HOME=/usr/local/java
 6.关闭防火墙,并永久关闭防火墙
2.克隆后的工作
 1.修改每台机器的IP
    vim /etc/sysconfig/network-script/ifcfg-ens33
    hostnamectl set-hostname two
    hostname
    reboot -f
 和hostname 101 nodetwo 102 nodethree 103 nodefour  reboot -f
 2.修改每台机器的 /etc/hosts
o
  192.168.59.100 one
  192.168.59.101 two
  192.168.59.102 three
  192.168.59.103 four
 
 4.one启动namenode 
 hdfs namenode -format 格式化
启动hadoop-daemon.sh start namenode
 namenode 其他启动datanode              
 hadoop-daemon.sh start namenode /  其他的启动 datanode

分屏显示 hdfs dfsadmin -report | more

分布式管理  查看 192.168.59.122:50070   hdfs dfsadmin -report

 

 

笔记仅适合参考 我用的是xshell5

转载于:https://www.cnblogs.com/zhuhuibiao/p/9651423.html

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
搭建一套Hadoop HDFS分布式文件系统涉及以下步骤: 1. 安装Java:Hadoop是用Java编写的,因此首先需要在所有节点上安装Java运行环境。 2. 下载Hadoop:从Apache Hadoop官网(https://hadoop.apache.org/)下载所需版本的Hadoop软件包。 3. 配置Hadoop集群:编辑Hadoop配置文件,包括core-site.xml、hdfs-site.xml和mapred-site.xml。这些文件定义了Hadoop集群的各种参数,如文件系统的URI、数据存储路径、副本数量、作业调度器等。 4. 配置SSH免密码登录:为了方便管理和操作Hadoop集群,需要配置节点间的SSH免密码登录。这可以通过生成SSH密钥对,并将公钥分发到所有节点上来实现。 5. 配置主节点(NameNode):选择一个节点作为主节点,配置core-site.xml和hdfs-site.xml文件,指定NameNode的地址、数据存储路径等信息。 6. 配置从节点(DataNode):在所有从节点上配置core-site.xml和hdfs-site.xml文件,指定DataNode的地址、数据存储路径等信息。 7. 格式化文件系统:在主节点上执行`hdfs namenode -format`命令,初始化文件系统的元数据。 8. 启动Hadoop集群:在主节点上执行`start-all.sh`脚本或分别启动各个组件的命令,启动Hadoop集群。 9. 验证HDFS:使用Hadoop提供的命令行工具,如`hadoop fs -ls /`来验证HDFS是否正常工作。可以上传、下载和删除文件来测试文件系统的功能。 以上是搭建Hadoop HDFS分布式文件系统的基本步骤。在实际部署过程中,还需要注意网络配置、防火墙设置、节点管理等方面的细节。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值