Cloudera Manager 中角色迁移和配置的一些操作记录

最近大数据集群中有一台节点磁盘坏掉,因为用的aliyun服务器,在考虑现有业务不需要太多的服务器资源,准备下架这台坏掉的服务器,记录一下其中的一些操作

版本信息:CDH 6.0.1

1.先需要造的是 zookeeper  因为依赖他的组件必须先能找到健康的它才能干活

 停掉坏的 server 节点,添加角色

添加完后zookeeper必须是奇数台才行,现在删掉那个坏的

配置文件过期需要中心这个zookeeper服务

这样依赖 zookeeper 的其他服务就得重新部署这个server才行

造完之后重启-重新部署 完了之后看看结果

2.hadoop003节点的 DataNode 和 JournalNode 都出现了问题,现在也需要迁移

 

选中停机提醒后继续

等待重新完成。。。。。。。。。。。。 

JournalNode 和 zookeeper 一样都需要 奇数 台的服务才行,

 3.ResourceManager 现在也坏了,但是我在其他节点添加一个ResourceManager 后他的配置立即发生变化,高可用 配置显示出来

 在hadoop005上安装了一个 ResourceManager 后发现启动不了,最后在报错日志里面发现

Error starting ResourceManager
org.apache.hadoop.HadoopIllegalArgumentException: Configuration doesn't specify yarn.resourcemanager.cluster-id
	at org.apache.hadoop.yarn.conf.YarnConfiguration.getClusterId(YarnConfiguration.java:3390)
	at org.apache.hadoop.yarn.server.resourcemanager.ActiveStandbyElectorBasedElectorService.serviceInit(ActiveStandbyElectorBasedElectorService.java:90)
	at org.apache.hadoop.service.AbstractService.init(AbstractService.java:164)
	at org.apache.hadoop.service.CompositeService.serviceInit(CompositeService.java:108)
	at org.apache.hadoop.yarn.server.resourcemanager.ResourceManager.serviceInit(ResourceManager.java:326)
	at org.apache.hadoop.service.AbstractService.init(AbstractService.java:164)
	at org.apache.hadoop.yarn.server.resourcemanager.ResourceManager.main(ResourceManager.java:1420)

增加到两台 ResourceManager 后设备 自动开启了HA 但是没有配置 yarn.resourcemanager.cluster-id 这个需要手动添加

cluster-id = yarn-ha

然后重新启动服务

就可以启动 resourcemanager 了

现在再把hadoop003 上的 resourcemanager

和 nodemanager 删除掉,添加角色在hadoop004S上面,可以看到配置,现在YARN 的 HA H和配置信息

重启----重新部署 

等到重启完成。。。。。。。。。。。。。

4.配置了 resourcemanager 后 发现hue中 oozie 的任务显示的 jobTracker 显示的还是 hadoop003:8032

这里应该显示的应该是 ResourceManager 的 yarn-ha

这里是修改后需要重新配置启动

 新跑的任务的时候。oozie 的配置项里面就会显示 jobTracker = yarn-ha

hadoop003 上面还有个 History Server 是spark 的一个实例,他只能在一个节点上添加一个服务,不能添加多个

 现在停止了hadoop003上的 因为我要装在其他节点,而且这个只能装一个,所以只能先删除这一个

 

 

 

 

 

 

 

 

 

 

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值