Apache Doris FE 元数据常见故障处理

该处理方法适用于 Apache Doris 0.14.7 及之后所有版本

常见问题

FE (Follower)挂掉

出现类似下面的错误

解决方案:

单个 FE (Follower)情况

    • 如果是单个FE,直接在conf/fe.conf 中加入 metadata_failure_recovery=true
    • 在访问正常之后,将上面元数据恢复模式设置成false,或者将这个配置项注释掉
    • 最后重启 FE
    • 如果有 Observer
  1. 首先停掉所有的 Observer(正常情况下 Follower出问题,Observer 也会挂掉)
  2. 使用上面元数据恢复模式,将Follower 恢复正常之后
  3. 在MySQL 客户端或者命令行下连接Follower(Master)节点
  4. 执行下面的命令
ALTER SYSTEM DROP OBSERVER "OBSERVER_IP:PORT";

这里将所有的Observer从集群中删除掉
OBSERVER_IP:你要删除的Observer 节点IP
PORT:fe.conf 中的 edit_log_port,默认9010
  • 然后到Observer 节点上,将Observer 元数据目录清空(可以先备份)
  • 然后使用下面的命令启动Observer
sh bin/start_fe.sh --helper master_fe_ip:port --daemon

master_fe_ip:你要Master FE 节点IP,如果是单个Follower就是你的这个Follower节点IP
port:fe.conf 中的 edit_log_port,默认9010
    1. 在MySQL 客户端或者命令行下连接Follower(Master)节点执行下面的命令
ALTER SYSTEM ADD OBSERVER "OBSERVER_IP:PORT";

这里是你刚才启动Observer节点加入到集群中那个
OBSERVER_IP:你要加入的Observer 节点IP
PORT:fe.conf 中的 edit_log_port,默认9010
      1. 查看FE运行状态
show fontends;

查看FE(Follower 和你刚才添加的 Observer 运行状态是否正常)
你也可以通过查看你刚才添加的Observer 的日志log/fe.log 观察是否启动正常

多个 FE (Follower)情况

    • 在所有 FE 的元数据目录下查看image/image.xxxx
    • 找出image.xxxx 这个xxxx 数字最大的这个节点,这个数字最大说明这个节点的元数据是最新的
    • 然后按照上面单个 Follower + 多个 Observer 的恢复流程进行操作,只不过 Observer 换成 Follower 即可。

FE 因为没有配置 priority_networks 启动错误

FE在启动的时候报类似下面的错误

java.io.IOException: the self host 172.31.26.7 does not equal to the host in ROLE file 172.17.0.1. You need to set 'priority_networks' config in fe.conf to match the host 172.17.0.1     at org.apache.doris.catalog.Catalog.getClusterIdAndRole(Catalog.java:903)     at org.apache.doris.catalog.Catalog.initialize(Catalog.java:805)     at org.apache.doris.PaloFe.start(PaloFe.java:125)     at org.apache.doris.PaloFe.main(PaloFe.java:63)


解决方案:
删除 doris-meta目录下的所有目录及文件,修改 fe.conf 里面的 priority_networks,重启即可解决

Apache Doris 0.14.7 之前版本

针对 Doris 0.14.7 之前版本,出现元数据错误,将其他节点从集群中删除,在作为新的节点加入,可能会存在错误,加入不成功,同时会导致其他 FE 挂掉的情况,针对之前版本正确的做法请参考下面链接

Apache Doris fe元数据故障运维

 

  • 2
    点赞
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
基于 Apache Doris 的数据仓库平台架构设计如下: 1. 架构模式: - 采用分布式架构模式,将数据仓库划分为多个节点,每个节点可以独立存储和处理数据,同时支持横向扩展,能够处理大规模的数据量和并发请求。 2. 数据存储层: - 使用分布式文件系统(如HDFS)存储数据,数据按照数据表的划分进行存储,支持数据的分片和复制,提高数据的可靠性和可用性。 - 数据以列式存储的方式存储,提高查询效率。 - 支持数据的压缩和索引,降低存储空间和提高查询效率。 3. 元数据管理: - 使用元数据管理系统(如MySQL)存储数据的元信息,包括表结构、分区、数据位置等。 - 元数据管理系统支持水平扩展,保证元数据的一致性和高可用性。 4. 查询引擎: - 使用分布式查询引擎,支持SQL语法,能够高效地执行复杂的数据查询和分析操作。 - 支持预编译和查询优化技术,提高查询性能。 5. 数据加载和导出: - 支持多种方式的数据加载和导出,如批量导入、实时流入、增量导入、导出到外部系统等。 - 支持数据的转换和清洗,提高数据的质量和一致性。 6. 安全性和权限管理: - 支持访问控制,可以对用户和角色进行权限管理,确保数据的安全性和合规性。 - 支持数据加密和身份认证,保护数据的机密性和完整性。 7. 可视化和监控: - 提供用户友好的可视化界面,方便用户管理和操作数据仓库。 - 支持实时监控和告警功能,及时发现和解决系统故障和性能问题。 总之,基于 Apache Doris 的数据仓库平台架构设计具备高可扩展性、高性能和高可靠性的特点,可以满足大规模数据处理和查询的需求,并提供丰富的功能和工具支持,帮助用户实现高效的数据分析和决策。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值