CC00010.druid——|Hadoop&OLAP_Druid.V10|——|Druid.v10|架构|索引服务|

一、索引服务
### --- 索引服务

~~~     索引服务:数据导入并创建 segments 数据文件的服务
~~~     索引服务是一个高可用的分布式服务,采用主从结构作为架构模式,索引服务由三大组件构成
~~~     overlord 作为主节点
~~~     middlemanager是从节点
~~~     peon用于运行一个task
二、索引服务架构图如下图所示:
三、索引服务由三部分组件组成:
### --- 索引服务由三部分组件组成

~~~     # Overlord组件
~~~     负责创建task、分发task到middlemanager上运行,
~~~     为task创建锁以及跟踪task运行状态并反馈给用户
~~~     # MiddleManager组件
~~~     作为从节点,负责接收主节点分配的任务,
~~~     然后为每个task启动一个独立的JVM进程来完成具体的任务

~~~     # Peon(劳工)组件
~~~     由middlemanager启动的一个进程用于运行一个task任务
### --- 索引服务架构与 Yarn 的架构类似:

~~~     Overlaod => ResourceManager,负责集群资源管理和任务分配
~~~     MiddleManager => NodeManager,负责接受任务和管理本节点的资源
~~~     Peon => Container,执行节点上具体的任务
### --- Task类型有很多,包括:

~~~     # index hadoop task:
~~~     Hadoop索引任务,利用Hadoop集群执行MapReduce任务以完成segment数据文件的创建,
~~~     适合体量比较大的segments数据文件的创建任务
~~~     # index kafka task:
~~~     用于Kafka数据的实时摄入,通过Kafka索引服务可以在Overlord上配置一个KafkaSupervisor,
~~~     通过管理Kafka索引任务的创建和生命周期来完成 Kafka 数据的摄取
~~~     # merge task:
~~~     合并索引任务,将多个segments数据文件按照指定的聚合方法合并为一个segments数据文件

~~~     # kill task : 
~~~     销毁索引任务,将执行时间范围内的数据从Druid集群的深度存储中删除
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

yanqi_vip

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值