学习使用 Hadoop-3.2.2 API
IDEA中使用Java 向hdfs 写入文件时出现如下错误:
could only be replicated to 0 nodes instead of minReplication (=1). There are 1 datanode(s) running
– 只能复制到0个节点,而不是minReplication(=1)。有一个datanode(s)运行
但云主机上操作 hdfs 一切正常。
jps 查看datanode 也是正常启动。
解决办法:
- 在hdfs-site.xml 需要加上,并重启 stop-all.sh、start-all.sh
<property>
<name>dfs.datanode.use.datanode.hostname</name>
<value>true</value>
</property>
- 在代码里加上:
configuration.set("dfs.client.use.datanode.hostname", "true");
仍然报错。
进入hdfs web页面查看(机器ip:9870),Hadoop-3.2.2 的 DataNode启动在端口 9866
淦,肯定是云主机安全组没配置9866所以被拦截了。
- 安全组加上9866以后,写入成功。
如果是使用虚拟机,也记得把Linux的防火墙关闭。
如使用hadoop-2.x 参考:
https://blog.csdn.net/vaf714/article/details/82996860
https://blog.csdn.net/yexiaomodemo/article/details/80900322
Hadoop 端口使用的详情:
https://blog.csdn.net/jeffiny/article/details/78728965
https://blog.csdn.net/zpf_940810653842/article/details/102551103