01-Flume的简介

==========================================================================

大数据的处理流程

---

• 1.数据采集

• 2数据存储

• 3.数据清洗

• 4.数据分析

• 5.数据展示

Flume的简介

---

Fume是一种分布式的，可靠的、高可用的服务，用于有效地收集，聚合和移动大量日志数据。它具有基于流数据流的简单灵活的体系结构。它具有可调整的可靠性机制以及许多故障转移和恢复机制，具有强大的功能和容错能力。它使用一个简单的可扩展数据横型，允许在线分析应用程序。

flume 最开始是由cloudera开发的实时日志收集系统，受到了业界的认可与广泛应用。但随着flume功能的扩展，flume的代码工程臃肿、核心组件设计不合理、核心配置不标准等缺点渐渐暴露出来，尤其是在发行版本0.9.4中，日志传输不稳定的现象尤为严重。

为了解决这些问题，2011年10月22号，cloudera对Flume进行了里程碑式的改动:重构核心组件、核心配置以及代码架构，并将Fume纳入apache旗下，从cloudera Flume改名为Apache Flume,

版本区别

为了与之前版本区分开，重构后的版本统称为Flume NG (next generation)，重构前的版本被统称为Flume OG (original generation) , Flume目前只有Linux系统的启动脚本。没有Windows环境的启动脚本。

Flume的体系结构

---

Fume运行的核心是Agent。Fune是以lagent为最小的独立运行单位。一个agent就是一个VM。它是一个完整的数据收集工具，含有三个核心组件，分别是source,channel、sink通过这些组件, Event可以从一个地方流向另一个地方。如下图所示:

组件及其作用

• Client:

客户端,Client生产数据,运行在一个独立的线程中

• Event:
  自我介绍一下，小编13年上海交大毕业，曾经在小公司待过，也去过华为、OPPO等大厂，18年进入阿里一直到现在。

深知大多数Java工程师，想要提升技能，往往是自己摸索成长或者是报班学习，但对于培训机构动则几千的学费，着实压力不小。自己不成体系的自学效果低效又漫长，而且极易碰到天花板技术停滞不前！

因此收集整理了一份《2024年Java开发全套学习资料》，初衷也很简单，就是希望能够帮助到想自学提升又不知道该从何学起的朋友，同时减轻大家的负担。

既有适合小白学习的零基础资料，也有适合3年以上经验的小伙伴深入学习提升的进阶课程，基本涵盖了95%以上Java开发知识点，真正体系化！

由于文件比较大，这里只是将部分目录截图出来，每个节点里面都包含大厂面经、学习笔记、源码讲义、实战项目、讲解视频，并且会持续更新！

如果你觉得这些内容对你有帮助，可以扫码获取！！（资料价值较高，非无偿）

最后

针对以上面试题，小编已经把面试题+答案整理好了

面试专题

除了以上面试题+答案，小编同时还整理了微服务相关的实战文档也可以分享给大家学习

《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》，点击传送门即可获取！
4-1711530076123)]
《一线大厂Java面试题解析+核心总结学习笔记+最新讲解视频+实战项目源码》，点击传送门即可获取！