Apache Flume介绍

Apache Flume是一个分布式日志收集、整合和传输系统。它采用Source、Channel和Sink的架构,允许灵活的数据流配置。Flume提供多种预置Source、Channel和Sink类型,适用于数据级联、聚合和分发场景。用户还可以自定义这些组件以适应特定需求。
摘要由CSDN通过智能技术生成

本文是我发表在大华Share Or Out俱乐部中的文章,希望读者阅读后能初步了解flume的基本概念和用途,限于本人能力,有错误之处还请指出,谢谢!


介绍:

FlumeApache下面的一个分布式组件,它提供高效,可靠的收集,整合,传输日志数据的服务。Flume可以理解成一个管道,它连接数据的生产者和消费者,它从数据的生产者(Source)获取数据,保存在自己的缓存(Channel)中,然后通过Sink发送到消费者。它不对数据做保存和复杂的处理(可以做简单过滤和改写)。

架构:

Flume在版本0.9x以前的版本统称为Flume-og,1.X之后的版本统称为Flume-ng,也就是Origion GenerationNew Generation的区别,相对于老的版本来说,Flume-ng版本在架构上面做了很大的改动,由于时间仓促,本文仅对Flume-ng版本做介绍。

由于Flume-og版本中Flume的角色过多,比如agent, collector,master等,导致用户使用起来存在困难,因此新的Flume-ng只设计了一个角色

  • 1
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值