CDH集群意外处理：集群个别主机断电处理

最新推荐文章于 2022-10-20 11:24:56 发布
最新推荐文章于 2022-10-20 11:24:56 发布
阅读量749 收藏 1
点赞数
分类专栏： CDH 文章标签： CDH 意外 断电
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010886217/article/details/98673198
版权

一、    问题描述

大数据CDH集群几台机器莫名断电，CDH集群10台，5台莫名宕机，包括管理节点01。然后服务被关闭，但是，那些依旧开机的服务依旧开启。

二、    解决办法

思路就是重新开启cm然后，通过cm管理服务器，重新开启对应服务。
1.关闭CDH集群02节点上的备份mysql，重启01和02的mysql数据库
2.重启CDH的01节点的cm服务
3.登录：CM服务的7180服务端口。
4.重启所有服务
 

RayBreslin
关注
专栏目录
大数据面试题目_综合面试_hadoop面试题_hive面试题_sqoop面试题_spark面试题_flume面试题_kafka面试题---大数据面试题007
添柴程序猿的专栏
05-31 695
那么checkpoint就会回滚，不会影响数据一致性，那么如果在通知checkpoint成功的之后失败了，那么就会在initalizeSate方法中完成事务的提交，这样可以保证数据的一致性。kafka每个partition中的消息在写入时都是有序的，消费时，每个partition只能被每一个group中的一个消费者消费，保证了消费时也是有序的。在flink的web ui中可以看到数据倾斜的情况，就是每个subtask处理的数据量差距很大，例如有的只有一M 有的100M 这就是严重的数据倾斜了。
Hadoop--CDH集群系统死机，系统重启报错[contains a file system with error]的解决办法
play_chess_ITmanito的博客
08-11 1580
正常情况下不论是玩儿电脑还是集群：当我们遇到电脑死机，会重启；那么当集群系统的某台机子突然死了，，我们应该怎么办？ 通常在集群电脑屏幕黑屏，鼠标，键盘都不能动的时候会强制关机，重启；但是这样重启后系统会报错（如下所示）：Press enter for maintenance (or type Control-D to continue): /dev/sda3 contains a file sys
cdh断电后故障解决 -- process information unavailable
m0_49027804的博客
10-20 241
机房断电，服务器意外关机，-- process information unavailable
关于集群突然断电的解决方法
小菜鸟的成长之路
04-13 730
今天在测试的时候，数据正在入库。突然断电了。 重启动以后，启动./start-dfs.sh以后，查看日志，会报出 2012-04-13 15:39:43,208 INFO org.apache.hadoop.ipc.Server: IPC Server handler 9 on 8020, call rollEditLog() from 196.1.2.160:34939: error: or...
cdh集群节点系统文件损坏，重装系统恢复Hdfs数据
sunyang098的博客
08-17 4011
由于意外，集群中的一个节点系统坏了，重装系统后，把该节点添加集群中，恢复hdfs数据。 思路：主要问题是把hdfs的数据恢复，由于hdfs的机制very good，只要把节点从集群中删掉，再添加进集群中，配置hdfs对应目录就好。 背景：安装的cdh5.8，使用cm界面进行管理 流程： 1.从集群中删除节点，删除的时候，勾选解除授权。 2.从主机管理中删除节点 3.
CDH节点断开时间过长连接不上处理方案
sxyqhyt的博客
04-24 1399
节点断开时间过长处理方法：   [root@slave1 ~]# /etc/init.d/cloudera-scm-agent status cloudera-scm-agent dead but pid file exists     [root@slave1 ~]# service httpd status httpd is stopped [root@slave1 ~]#...
大数据处理之如何确保断电不丢数据
qq_24946645的博客
07-23 830
在Hadoop 2.0.2-alpha之前，HDFS在机器断电或意外崩溃的情况下，有可能出现正在写的数据丢失的问题。而最近刚发布的CDH4中HDFS在Client端提供了hsync()的方法调用(HDFS-744)，从而保证在机器崩溃或意外断电的情况下，数据不会丢失。这篇文件将围绕这个新的接口对其实现细节进行简单的分析，从而希望找出一种合理使用hsync()的策略，避免重要数据丢失。 ...
大数据处理文件格式之ORC和Parquet选择
xiaohu21的博客
10-20 498
大数据处理文件格式之ORC和Parquet选择 1. 背景 在大数据处理中，因为无法按照传统方式将海量数据存放到mysql中。所以各个框架都想办法将这些数据很好存放起来，既能保证数据安全，有可以确保数据查询地性能。 按照上述思路，出现了很多技术框架。 如HDFS，将文件以文件块形式切分，并且存放到集群中。有专门地节点负责这些文件地元数据管理（namenode， secondary namenode地checkpoint 机制）。这样可以保证数据安全性，也可以保证一定地文件访问便捷性。 在HDFS之上，
HDFS的数据平衡时突然断网或者断电导致数据异常
weixin_45512368的博客
07-06 630
HDFS的数据平衡时突然断网或者断电导致数据异常
Hbase异常处理
乔克叔叔
03-29 3385
1.No lease on file (inode 5425306): File does not exist. [Lease. Holder: DFSClient_NONMAPREDUCE_-247167534_42, pendingcreates: 1] org.apache.hadoop.ipc.RemoteException: No lease on /user/test/xxx/cc...
cdh单个节点挂掉或重启，导致这个节点hadoop组件不能重启
weixin_30270889的博客
10-25 750
背景：集群一个节点无缘无故重启了，导致该节点的所有大数据的组件都不能开启。而且集群一片报红 解决方法，在出问题的节点重启一下agent就可以了 [root@hh-cdh-15 init.d]# ./cloudera-scm-agent restart 之后开启该节点的yarn重启 再开启hdfs重启就好了(注意这个开启顺序) 转载于:https://www...
CDH主机下线
eyeofeagle的博客
11-24 885
文章目录1，配置hdfs, hbase: 提高下线速度2，主机：进入维护模式3, 主机解除授权: Decommission(退役)解除授权的操作细节hdfs 数据转移hbase数据转移 参考：https://docs.cloudera.com/documentation/enterprise/5-12-x/topics/cm_mc_decomm_host.html 1，配置hdfs, hbase: 提高下线速度 ########## hdfs ############# #依据迭代设置复制工作乘数器 dfs
CDH集群主节点宕机恢复
weixin_30375427的博客
09-30 908
1 情况概述 公司的开发集群在周末莫名其妙的主节点Hadoop-1的启动固态盘挂了，由于CM、HDFS的NameNode、HBase的Master都安装在Hadoop-1，导致了整个集群都无法使用，好在数据不在启动盘。 Hadoop-1的系统必须重装，但是不能重装集群，因为要将之前的数据全部保留恢复，所以只能通过集群恢复的手段将集群重新跑起来。 主要服务角色安装情况： Hado...
亚马逊 cdh集群非正常关机重启之后 节点不健康 节点丢失 服务无法启动 集群资源吃满 jps显示一大堆 rmadmincli 进程
yy的博客
08-02 590
现象 关机后发现 cdh管理界面很多 更新配置 的按钮, 而且jps显示了很多rmadmincli 的进程,这个进程是yarn的进程,cdh配置更新是因为亚马逊服务器重启自动修改了服务器的hostname. 贼特么坑. cdh自适配给你修改了和hostname相关的服务的配置文件. ...
CDH大数据节点宕机测试
欢迎来到李奇峰的数据世界
05-25 984
一、集群现状 集群组件说明：目前集群中安装了若干大数据相关组件，包括HDFS、Hbase、Hive等存储相关组件与Flume、Spark、Kafka等数据采集与处理相关组件。 集群主机说明：目前集群中有5台主机，为同一台宿主机上的5台虚拟机。为确保HDFS副本正常分布，故主机cdh1、cdh2、cdh3的机架设置为“test1”，cdh4、cdh5的机架设置为“test2” 注：Hadoop在设计时考虑到数据的安全与高效，数据文件默认在HDFS上存放三份，存储策略为: 第一个副本放在其中一台节点中 第
CDH节点宕机后HDFS和YARN高可用切换演练
weixin_33022765的博客
03-14 603
CDH节点宕机后HDFS和YARN高可用切换演练 一、 背景及目标 为保障CDH集群的高可用，提升CDH运维经验，实施本次CDH主节点和主节点宕机后的高可用切换演练。 主节点和子节点组件分配如下： 模拟bjhtom-ap-bigData-flink102主节点以及bjhtom-ap-bigData-flink105子节点的宕机。 二、 内容 停止bjhtom-ap-bigData-flink105子节点所有组件 停止bjhtom-ap-bigData-flink102 主节点所有组件（包括CDH管理组
CDH问题总结——主机运行状况不良
bboy枫亭的博客
06-03 3390
看下官方文档给的解决办法：https://docs.cloudera.com/documentation/enterprise/release-notes/topics/cm_rn_known_issues.html#rn_OPSAPS-34847 （CDH5和6都可以用这个办法） 问题所在： Block agents from heartbeating to a Cloudera Manager with different UUID until agent restart cm_guid 文件的内容就.
cm集群问题
qq_42173978的博客
12-15 461
搭建cm集群爬过的坑（云服务器上）懒得弄格式了1.问题:不良 : 该主机已与 Cloudera Manager Server 建立联系。 该主机未与 Host Monitor 建立联系。2.error: No socket could be created on ('NexusHadoopVM', 9000) -- [Errno 99] Cannot assign requested add 1....
hadoop--集群崩溃处理办法
weixin_46361294的博客
02-28 190
先杀死进程； [amelia@hadoop102 hadoop-2.7.2]$ sbin/stop-dfs.sh 在hadoop102，hadoop103和hadoop104上敲jps，检查hadoop102，hadoop103和hadoop104中是不是只剩下jps； 删除每一个集群上的/data和/logs文件夹； [amelia@hadoop102 hadoop-2.7.2]$ rm -rf data/ logs/ 格式化 [amelia@hadoop102 hadoop-2.7.2].
CDH集群安装详解：步骤全面指南
本文档详细介绍了如何在CDH集群环境中进行安装，特别是针对Cloudera Manager (CM) 5.11.1版本的部署过程。首先，提到两种cm安装方式可供选择，这里主要介绍的是解压tar方式进行安装。集群由五台CentOS虚拟机组成，...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值