win10搭建hadoop和spark

etc/hadoop/hdfs-site.xml

dfs.replication

1

8、Execution(执行操作)

(1)格式化hdfs硬盘 Format the filesystem: $ bin/hdfs namenode -format

Windows下是执行cmd命令,cd 到 hadoop 安装目录的 bin 目录下执行 hdfs namenode -format 命令

然后发现错误

解决办法:https://github.com/steveloughran/winutils 上GitHub上下载 winutils-master.zip 文件,

然后解压文件找到 hadoop 对应版本的 winutils.exe 文件,放到 /bin 目录下

然后放到 /bin 目录下,重新执行 hdfs namenode -format 命令,发现hadoop安装目录的磁盘下

tmp\hadoop-com\dfs\name\current 目录下创建了hdfs的原数据信息,cmd窗口也没报错,说明格式化成功

(2)Start NameNode daemon and DataNode daemon: $ sbin/start-dfs.sh

Windows下是执行cmd命令,cd 到 hadoop 安装目录的 sbin 目录下执行 start-dfs.cmd 命令

弹出了两个窗口,一个 NameNode 和一个 DataNode  ,同时也报了一个错误,往下分析

问题描述:

WARN util.NativeCodeLoader: Unable to load native-hadoop library for your platform… using builtin-java classes where applicable

问题分析:

原数据信息已经在本地 D 盘初始化了,但是启动hdfs的时候读取的却是C盘下的路径

解决办法:

1、把hadoop的安装目录移动到 C盘重新执行

2、找配置文件&#x

  • 4
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值