大数据-Flume

最新推荐文章于 2024-05-11 16:00:09 发布
最新推荐文章于 2024-05-11 16:00:09 发布
阅读量248 收藏
点赞数
分类专栏： 大数据 文章标签： Flume flume监听端口 flume监听本地文件 flume监听本地文件夹下沉HDFS flume监听日志下沉HDFS和本地
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/JavaDestiny/article/details/89425178
版权

Flume

一种分布式，可靠且可用的服务，用于有效地收集，聚合和移动大量日志数据。它具有基于流数据流的简单灵活的架构。它具有可靠的可靠性机制和许多故障转移和恢复机制，具有强大的容错性。它使用简单的可扩展数据模型，允许在线分析应用程序

Flume角色

（1）source

数据源，用户采集数据，source产生数据流，同时会把产生的数据流传输到channel

（2）channel

传输通道，用于桥接source和sink

（3）sink

下沉，用于手机channel传输的数据，将数据源传递到目标源

（4）event

在flume中使用事件作为传输的基本单元

Flume的安装

（1）上传flume压缩包apache-flume-1.8.0-bin.tar.gz到Linux中

（2）命令tar -zvxf解压flume压缩包

（3）修改conf文件夹下的flume-env.sh.template命名

在这里插入图片描述

（4）修改flume-env.sh文件的配置

在这里插入图片描述
在这里插入图片描述

Flume监听端口

（1）在conf文件夹下创建配置文件flumejob-telnet.conf

# example.conf: A single-node Flume configuration

# Name the components on this agent
# 定义变量方便调用，加s可以有多个此角色
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
# 描述source角色，进行内容定制
# 此配置属于tcp source必须是netcat类型
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
# 输出日志文件
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
# 使用内存，总大小1000，每次传输100
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
# 一个source可以绑定多个channel
# 一个sinks可以智能绑定一个channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

（2）查找和安装telnet命令包

在这里插入图片描述
在这里插入图片描述

（3）开启flume

在这里插入图片描述

（4）telnet端口44444和发送时间给flume

在这里插入图片描述
在这里插入图片描述

Flume监听本地文件

（1）命令start-all.sh开启HDFS

（2）在conf文件夹下创建配置文件flumejob-hdfs.conf

在这里插入图片描述

# example.conf: A single-node Flume configuration

# Name the components on this agent
# 定义变量方便调用，加s可以有多个此角色
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
# 设置数据源监听本地文件配置
# exec执行一个命令的方式去查看文件 tail -F 实时查看
a1.sources.r1.type = exec
# 要执行的脚本command tail -F 默认10行 man tail 查看帮助
a1.sources.r1.command = tail -F /tmp/root/hive.log
# 执行这个command使用的是哪个脚本 -c 指定使用什么命令
# whereis bash
# bash: /usr/bin/bash /usr/share/man1/bash.1.gz
a1.sources.r1.shell = /usr/bin/bash -c

# Describe the sink
a1.sinks.k1.type = hdfs
a1.sinks.k1.hdfs.path = hdfs://hadoop1:9000/flume/%Y%m%d/%H
# 上传文件的前缀
a1.sinks.k1.hdfs.filePrefix = logs-
# 是否按照时间滚动文件夹
a1.sinks.k1.hdfs.round = true
# 多少时间单位创建一个新的文件夹 秒 （默认30s）
a1.sinks.k1.hdfs.roundValue = 1
# 重新定义时间单位（每小时滚动一个文件夹）
a1.sinks.k1.hdfs.roundUnit = minute
# 是否使用本地时间戳
a1.sinks.k1.hdfs.useLocalTimeStamp = true
# 积攒多少个Event才flush到HDFS一次
a1.sinks.k1.hdfs.batchSize = 500
# 设置文件类型，可支持压缩
a1.sinks.k1.hdfs.fileType = DataStream
# 多久生成一个新的文件 秒
a1.sinks.k1.hdfs.roolInterval = 30
# 设置每个文件的滚动大小 字节（最好128M）
a1.sinks.k1.hdfs.rollSize = 134217700
# 文件的滚动与Event数量无关
a1.sinks.k1.hdfs.rollCount = 0
# 最小冗余数（备份输 生成滚动功能则生效roll hadoop本身有此功能 无需配置）1份  不冗余
a1.sinks.k1.hdfs.minBlockReplicas = 1

# Use a channel which buffers events in memory
# 使用内存，总大小1000，每次传输100
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
# 一个source可以绑定多个channel
# 一个sinks可以只能绑定一个channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

（3）将jar包放置到lib文件夹下

在这里插入图片描述

（4）开启flume

在这里插入图片描述

（5）监听本地文件采集到HDFS

在这里插入图片描述

Flume监听本地文件夹

（1）命令start-all.sh开启HDFS

（2）在conf文件夹下创建配置文件flumejob-dir.conf

在这里插入图片描述

# Name the components on this agent
# 定义变量方便调用，加s可以有多个此角色
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = spooldir
a1.sources.r1.spoolDir = /usr/local/testdir
# 上传成功后显示后缀名
a1.sources.r1.fileSuffix = .COMPLETED
a1.sources.r1.fileHeader = true
#忽略所有以.tmp结尾的文件，不上传
a1.sources.r1.ignorePattern = ([^ ]*\.tmp)

# Describe the sink
a1.sinks.k1.type = hdfs
a1.sinks.k1.hdfs.path = hdfs://hadoop1:9000/flume/testdir/%Y%m%d/%H
# 上传文件的前缀
a1.sinks.k1.hdfs.filePrefix = testdir-
# 是否按照时间滚动文件夹
a1.sinks.k1.hdfs.round = true
# 多少时间单位创建一个新的文件夹
a1.sinks.k1.hdfs.roundValue = 1
# 重新定义时间单位
a1.sinks.k1.hdfs.roundUnit = hour
# 是否使用本地时间戳
a1.sinks.k1.hdfs.useLocalTimeStamp = true
# 积攒多少个Event才flush到HDFS一次
a1.sinks.k1.hdfs.batchSize = 1000
# 设置文件类型，可支持压缩
a1.sinks.k1.hdfs.fileType = DataStream
# 多久生成一个新的文件
a1.sinks.k1.hdfs.rollInterval = 600
# 设置每个文件的滚动大小
a1.sinks.k1.hdfs.rollSize = 134217700
# 文件的滚动与Event数量无关
a1.sinks.k1.hdfs.rollCount = 0
# 最小冗余数
a1.sinks.k1.hdfs.minBlockReplicas = 1

# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

（3）开启flume

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

Flume监听日志文件下沉到HDFS和本地

（1）命令start-all.sh开启HDFS

（2）在hadoop1机器的conf文件夹下创建配置文件flumejob-01.conf

# name the components on this agent 别名设置
a1.sources = r1
a1.sinks = k1 k2
a1.channels = c1 c2

# 将数据流复制给多个channel
a1.sources.r1.selector.type = replicating

# Describe/configure the source
a1.sources.r1.type = exec
a1.sources.r1.command = tail -F /tmp/root/hive.log
a1.sources.r1.shell = /bin/bash -c

# Describe the sink
# 分两个端口发送数据
a1.sinks.k1.type = avro
a1.sinks.k1.hostname = hadoop2
a1.sinks.k1.port = 4141

a1.sinks.k2.type = avro
a1.sinks,k2.hostname = hadoop3
a1.sinks.k2.port = 4142

# Describe the channel
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

a1.channels.c2.type = memory
a1.channels.c2.capacity = 1000
a1.channels.c2.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1 c2
a1.sinks.k1.channel = c1
a1.sinks.k2.channel = c2

（3）在hadoop2机器的conf文件夹下创建配置文件flumejob-02.conf

# name the components on this agent 别名设置
a2.sources = r1
a2.sinks = k1
a2.channels = c1

# Describe/configure the source
a2.sources.r1.type = avro
a2.sources.r1.bind = hadoop2
a2.sources.r1.port = 4141

# Describe the sink
a2.sinks.k1.type = hdfs
a2.sinks.k1.hdfs.path = hdfs://hadoop1:9000/flume/%Y%m%d/%H

# 上传文件的前缀
a2.sinks.k1.hdfs.filePrefix = flume-
# 是否按照时间滚动文件夹
a2.sinks.k1.hdfs.round = true
# 多少时间单位创建一个新的文件夹
a2.sinks.k1.hdfs.roundValue = 1
# 重新定义时间单位
a2.sinks.k1.hdfs.roundUnit = hour
# 是否使用本地时间戳
a2.sinks.k1.hdfs.useLocalTimeStamp = true
# 积攒多少个Event才flush到HDFS一次
a2.sinks.k1.hdfs.batchSize = 100

# 设置文件类型，可支持压缩
a2.sinks.k1.hdfs.fileType = DataStream
# 多久生成一个新的文件
a2.sinks.k1.hdfs.rollInterval = 600
# 设置每个文件的滚动大小大概是128M
a2.sinks.k1.hdfs.rollSize = 134217700
# 文件的滚动与Event数量无关
a2.sinks.k1.hdfs.rollCount = 0
# 最小副本数
a2.sinks.k1.hdfs.minBlockReplicas = 1

# Describe the channel
a2.channels.c1.type = memory
a2.channels.c1.capacity = 1000
a2.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a2.sources.r1.channels = c1
a2.sinks.k1.channel = c1

（4）在hadoop3机器的conf文件夹下创建配置文件flumejob-03.conf

# name the components on this agent 别名设置
a3.sources = r1
a3.sinks = k1
a3.channels = c1

# Describe/configure the source
a3.sources.r1.type = avro
a3.sources.r1.bind = hadoop3
a3.sources.r1.port = 4142

# Describe the sink
a3.sinks.k1.type = file_roll
a3.sinks.k1.sink.directory = /root/flume

# Describe the channel
a3.channels.c1.type = memory
a3.channels.c1.capacity = 1000
a3.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a3.sources.r1.channels = c1
a3.sinks.k1.channel = c1

（5）启动Hive

（6）开启flume

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

（7）操作Hive

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

参考资料：https://blog.csdn.net/liuxiangke0210/article/details/71006148和https://408933325.iteye.com/blog/2217712

官网资料：http://flume.apache.org/releases/content/1.9.0/FlumeUserGuide.html

JP-Destiny
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
大数据平台-Flume培训
03-03
Apache Flume 是一个专为大数据平台设计的日志收集系统，由Cloudera开发并在Apache软件基金会维护。Flume NG（Next Generation）是其最新的版本，相比早期的Flume OG进行了重大的架构改进，以提高其分布式、可靠性和...
大数据组件-Flume高可用集群搭建
03-28
Flume是一个分布式、可靠和高可用性的数据采集工具，用于将大量数据从各种源采集到Hadoop生态系统中进行处理。在大型互联网企业的数据处理任务中，Flume被广泛应用。 Flume逻辑上分三层架构：agent，collector，...
如何解决使用Flume采集Hive日志时，HDFS不显示相关文件
最新发布
qq_73624158的博客
05-11 431
记住该路径后面要用！！！检验配置是否生效开启hadoop集群，如果已经开启请关闭后重启出现类似以上内容即为正常以上都是对hive中没有明确定义hive日志位置的解决，但是即使我们明确配置了hive的日志文件位置却依然无法解决问题。2.flume相关文件配置不当下面我们就需要对hive-flume-hdfs.conf文件进行配置这个路径因人而异，要记住，后面要用这个位置需要大家更改成我们原先设置hive日志文件储存的路径。
flume上传hdfs遇到的问题
warm_day的博客
05-22 861
1.数据没有上传到hdfs 日志报：Hadoop “Unable to load native-hadoop library for your platform” warning 在hadoop-env.sh: export HADOOP_COMMON_LIB_NATIVE_DIR=$HADOOP_HOME/lib/native export HADOOP_OPTS="-Djava.library.path=$HADOOP_HOME/lib"
利用flume监控文件并上传到hdfs上面出现的问题
小旭IT-分享技术
10-28 2171
项目场景：利用flume监控文件并上传到hdfs上面出现的问题 问题描述： 在： @Override public void run() { bytes = mmInStream.read(buffer); mHandler.obtainMessage(READ_DATA, bytes, -1, buffer).sendToTarget(); } 原因分析： 提示：这里填写问题的分析： 例如：Handler 发送消息
消费flume的数据无法上传到HDFS
weixin_43955488的博客
10-30 1564
消费flume的数据无法上传到HDFS
解决flume采集日志使用KafkaSource写不到hdfs的问题
m0_64206944的博客
11-15 438
在数仓开发的数据同步策略中分为全量同步和增量同步，增量同步使用Maxwell监控MySQL变化数据并上传到Kafka的topic，Flume则使用KafkaSource监控Kafka上传至hdfs完成数据传输通道。本篇文章解决flume采集Kafka无法写入hdfs的问题。
大数据平台环境搭建---- Flume组件配置
qq_74400992的博客
01-18 621
由于数据源是可定制的，Flume可以用于传输大量事件数据，包括但不限于网络流量数据、社交媒体生成的数据、电子邮件消息和几乎所有可能的数据源。Flume是一个分布式的、可靠的、可用的系统，用于有效地收集、聚合和将大量日志数据从许多不同的源移动到一个集中的数据存储。复制Flume配置模板：cp flume-env.sh.template flume-env.sh。进入Flume配置目录：cd /usr/local/src/flume/conf/编辑Flume配置文件：vi flume-env.sh。
大数据-Flume介绍
逍遥云恋
12-24 342
1. Flume 介绍 1.1. 概述 Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。 Flume可以采集文件，socket数据包、文件、文件夹、kafka等各种形式源数据，又可以将采集到 的数据(下沉sink)输出到HDFS、hbase、hive、kafka等众多外部存储系统中 一般的采集需求，通过对flume的简单配置即可实现 Flume针对特殊场景也具备良好的自定...
apache-flume-1.9.0-bin.tar.gz
07-28
1. **bin** 目录：包含可执行脚本，如 `flume-ng` 和 `flume-agent`，用于启动、停止和管理 Flume 代理。 2. **conf** 目录：存放配置文件，例如 `flume.conf`，这是默认的配置文件，用户可以在这里定义数据流的结构...
spark-streaming-flume_2.11-2.1.0.jar
03-19
spark-streaming-flume_2.11-2.1.0.jar
flume 传输错误
u012425960的博客
05-03 801
3台机器 01 02 为http source 流入 到03，03 为avro source 在 03上 curl -X POST -d '[{"headers":{"a":"a1","b":"b1"},"body":"hello"}]' http://03:44444，报出如下错误 org.apache.avro.AvroRuntimeException: Excessively
flume介绍之版本及其原理
vinsuan93的专栏
05-08 5495
一.概述 Flume是一个分布式、可靠、和高可用的海量日志采集、聚合和传输的系统。支持在系统中定制各类数据发送方，用于收集数据；同时，Flume提供对数据进行简单处理，并写到各种数据接受方（可定制）的能力。Flume 初始的发行版本目前被统称为 Flume OG（original generation），属于 cloudera。但随着 Flume 功能的扩展，Flume OG 代码工程臃肿、
DataV
Destiny的博客
05-04 8615
DataV 简介 DataV是一款阿里云提供的数据可视化在线工具。通过拖拽式的操作，使用数据连接、可视化组件库、行业设计模板库、多终端适配与发布运维于等功能，让非专业人员也可以快速的将数据的价值通过视觉进行传达 特征 （1）DataV具有丰富的图表库：能够绘制包括海量数据的地理轨迹、地理飞线、热力分布、地域区块、3D地图、3D地球，地理数据的多层叠加，还接入了ECharts，AntV-G2等第三方...
Azkaban报错-azkaban.executor.ExecutorManagerException: No active executors found
Destiny的博客
05-11 6871
Issue 2019/05/09 21:50:07.380 +0800 ERROR [ExecutorManager] [Azkaban] No active executors found 2019/05/09 21:50:07.380 +0800 ERROR [StdOutErrRedirect] [Azkaban] Exception in thread "main" 2019/05/09...
大数据-Spark实例
Destiny的博客
07-16 3124
Spark解析日志 需求一：求出访问图片最多的前两张 tomcat日志 110.52.250.126 - - [30/May/2018:17:38:20 +0800] "GET /source/plugin/wsh_wx/img/wsh_zk.css HTTP/1.1" 200 1482 27.19.74.143 - - [30/May/2018:17:38:20 +0800] "GET /sta...
基于阿里云数加构建企业级数据分析平台
Destiny的博客
05-04 2116
基于阿里云数加构建企业级数据分析平台 数据分析是基于商业目的，有目的的进行收集、整理、加工和分析数据，提炼有价值信息的过程 ![在这里插入图片描述](https://img-blog.csdnimg.cn/20190504225454488.png?x-oss-process=image/watermark,type_ZmFuZ3poZW5naGVpdGk,shadow_10,text_aHR0c...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值