flume学习二 --- 案例

本文详细介绍了Flume的基本使用,包括官方入门案例、实时监控单个追加文件、实时读取本地文件到HDFS、实时读取目录文件到HDFS以及实时监控目录下的多个追加文件。通过配置不同类型的Source、Sink和Channel,实现了数据的高效传输和持久化。文章还强调了Taildir Source在保证数据不丢失和实时监控方面的优势。
摘要由CSDN通过智能技术生成

官方入门案例:

安装newcat:

 sudo yum install -y nc

查看端口是否被占用:

 sudo netstat -tunlp | grep 端口号

在flume-netcat-logger.conf文件中添加:

# Name the components on this agent
a1.sources = r1
a1.sinks = k1
a1.channels = c1

# Describe/configure the source
a1.sources.r1.type = netcat
a1.sources.r1.bind = localhost
a1.sources.r1.port = 44444

# Describe the sink
a1.sinks.k1.type = logger

# Use a channel which buffers events in memory
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100

# Bind the source and sink to the channel
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

先对agent令名组件:
a1是当前的agent的名字,sources、sinks、channels 在agent中定义多个source、sink、channel
r1、k1、c1与下面的与之对应

描述配置source----a1的输入源类型为newcat端口类型、a1的的监听主机以及端口号        

sink----表示a1的输出目的是控制台logger类型

channel的类型是memory内存型(也可以是File),缓冲的总容量是1000(1000代表1000个事件,并不是字节),收集到100个事件再提交事务

由于source、sink、channel可能较多,所以在最后要做一个绑定,建立单独的通道才能顺利传输
r1写入c1,k1从c1拉数据   
channel加了s,所以一个source可以缓存到多个channel,而下面的channel没有加s,所以sink只来自一个channel,一个channel可以被多个sink读取

 启动flume监听端口:

bin/flume-ng agent -c conf/ -n a1 -f job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console

这个就相当于是一个客户端去连接服务器   

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值