Hadoop
陈平寨黄山赵子龙
我就是一个技术超级一般的小码农
展开
-
集群环境ssh免密码登录设置
一、准备工作用客户端工具(ssh client或者putty)连接到linux服务器。在root用户下输入命令vi /etc/hosts,用vi编辑hosts文件,如下:#127.0.0.1 localhost localhost.localdomain localhost4 localhost4.localdomain4#::1 localhost localhos...转载 2019-04-04 11:41:45 · 2690 阅读 · 1 评论 -
Hadoop3 伪分布式安装
Hadoop3伪分布式安装准备工作:4台节点服务器1.1.1 JDK安装&配置好 参考JDK安装文章1.1.2 4个节点服务器配置相互免密登录 参考配置免密登录文章下载Hadoop 下载地址&百度云(密码:)1. 解压2. 修改配置文件3. 启动Hadoop4. 验证成功5. 测试上传文件...原创 2019-04-04 11:57:48 · 1311 阅读 · 0 评论 -
集群安装ZooKeeper
集群安装ZooKeeper集群安装ZooKeeper集群安装ZooKeeper原创 2019-04-10 10:55:52 · 256 阅读 · 0 评论 -
Hadoop3 全分布式安装
准备工作:4台节点服务器1.1.1 JDK安装&配置好 参考JDK安装文章1.1.2 4个节点服务器配置相互免密登录 参考配置免密登录文章下载Hadoop 下载地址开发环境Linux平台: Centos6.5JDK版本:1.8( jdk-8u201-linux-x64【下载地址】)Hadoop 3.1.2 下载地址1. 解压安装包到/opt目录下...原创 2019-04-08 10:52:01 · 1841 阅读 · 0 评论 -
Hadoop搭建高可用的服务环境
作角色分配,相当于给下属分配任务该环境是在上一节全分布式hadoop安装的方式基础上进行安装的。Hadoop3 全分布式安装还需在node02,node03,node04上面安装好zookeeper集群安装ZooKeeper搭建环境的角色分配节点服务器NameNode01NameNode02DataNodeZooKeeperZKFSJournalNode...原创 2019-04-09 17:36:56 · 370 阅读 · 0 评论 -
Hadoop搭建HA的时候,开启NameNode服务的时候总有其中一个挂掉的原因及解决方法
搭建HA的情况下,开启start-dfs.sh服务的时候,master和slave两个NameNode服务总有一个挂掉,原因:start-dfs.sh的时候,首先开启的是 master:NameNode后是 slave1:NameNode最后是 JournalNode即是: namenode–>datanode–>journalnode–>zkfc ...原创 2019-04-16 17:31:54 · 1191 阅读 · 0 评论 -
ERROR: User defined in HDFS_DATANODE_SECURE_USER (yarn) does not exist. Aborting.
错误在4台服务器上安装高可用的Hadoop时,启动DataNode一直报下列的错误:在Google了半天,也没有找到原因真的是抓耳挠撒下面是启动时的报错。[root@node01 hadoop]# start-all.sh Starting namenodes on [node01 node02]Starting datanodesnode02: ERROR: User define...原创 2019-04-26 16:10:28 · 3139 阅读 · 2 评论 -
Hadoop3.1.2 高可用安装Yarn (ResourceManager High Availability)
本指南概述了YARN ResourceManager的高可用性,并详细介绍了如何配置和使用此功能。ResourceManager(RM)负责跟踪集群中的资源,以及调度应用程序(例如,MapReduce作业)。在Hadoop 2.4之前,ResourceManager是YARN集群中的单点故障。高可用性功能以Active / Standby ResourceManager对的形式添加冗余,以消除此单点故障。原创 2019-04-24 16:39:17 · 1521 阅读 · 0 评论