我们知道一个source可以对应多个channel,但一个chanel只能对应一个sink,扇入、扇出就是利用多个flume实例进行数据的采集。扇入就是从多个数据源采集数据然后都发送到一个flume里面,像扇子一样进行不同数据源间数据的整合。扇出就是用一个flume将数据同时发往多个flume,将数据落到不同的地方。
Flume支持将事件流多路传输到一个或多个目的地。这是通过定义流复用器来实现的,该流复用器可以将事件复制或选择性地路由到一个或多个通道。
扇出流动是指一个上游数据源将数据发送到多个下游代理的模式。
上游数据源可以是一个Flume代理的Source,而下游代理可以是不同的Flume代理或同一个代理的不同Sink。
上游数据源通过Channel将数据发送到多个下游代理的Sink,从而实现数据的复制或分发。
扇出流动可以用于将同一份数据发送到不同的目标系统,以实现数据备份、冗余或并行处理。
编写配置文件m1 shanchu.conf
# a1 表示 Agent 的名称,在启动 Flume 的时候指定
# 创建一个 Source,名叫 r1
a1.sources = r1
# 创建一个 Channel,名叫 c1
a1.channels = c1 c2
# 创建一个 Sink,名叫 k1
a1.sinks = k1 k2
# 指定 a1 的输入源类型为端口类型,也就是数据要通过指定的端口发送
# 这里监听本地的 9999 端口
a1.sources.r1.type = netcat
a1.sources.r1.bind = m1
a1.sources.r1.port = 9999
# 表示 a1 的 Channel 类型是 memory,总容量是 1000 个 Event
# 并且每收集 100 个再去提交事务
a1.channels.c1.type = memory
a1.channels.c2.type = memory
# 表示 a1 的输出是日志类型
a1.sinks.k1.type = avro
a1.sinks.k1.hostname = 192.168.20.102
a1.sinks.k1.port = 9999
a1.sinks.k2.type = avro
a1.sinks.k2.hostname = 192.168.20.103
a1.sinks.k2.port = 9999
a1.sources.r1.channels = c1 c2
a1.sinks.k1.channel = c1
a1.sinks.k2.channel = c2
编写配置文件m2 shanchu.conf
# a1 表示 Agent 的名称,在启动 Flume 的时候指定
# 创建一个 Source,名叫 r1
a1.sources = r1
# 创建一个 Channel,名叫 c1
a1.channels = c1
# 创建一个 Sink,名叫 k1
a1.sinks = k1
# 指定 a1 的输入源类型为端口类型,也就是数据要通过指定的端口发送
# 这里监听本地的 9999 端口
a1.sources.r1.type = avro
a1.sources.r1.bind = m2
a1.sources.r1.port = 9999
# 表示 a1 的 Channel 类型是 memory,总容量是 1000 个 Event
# 并且每收集 100 个再去提交事务
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# 表示 a1 的输出是日志类型
a1.sinks.k1.type = logger
# 将 r1 和 k1 绑定到 c1 上,r1 会写入数据到 c1,然后 k1 会从 c1 读数据
a1.sources.r1.channels = c1
# 注意这里的 channel 后面没有 s,因为一个 Sink 只能绑定一个 Channel
a1.sinks.k1.channel = c1
编写配置文件m3 shanchu.conf
# a1 表示 Agent 的名称,在启动 Flume 的时候指定
# 创建一个 Source,名叫 r1
a1.sources = r1
# 创建一个 Channel,名叫 c1
a1.channels = c1
# 创建一个 Sink,名叫 k1
a1.sinks = k1
# 指定 a1 的输入源类型为端口类型,也就是数据要通过指定的端口发送
# 这里监听本地的 9999 端口
a1.sources.r1.type = avro
a1.sources.r1.bind = m3
a1.sources.r1.port = 9999
# 表示 a1 的 Channel 类型是 memory,总容量是 1000 个 Event
# 并且每收集 100 个再去提交事务
a1.channels.c1.type = memory
a1.channels.c1.capacity = 1000
a1.channels.c1.transactionCapacity = 100
# 表示 a1 的输出是日志类型
a1.sinks.k1.type = logger
# 将 r1 和 k1 绑定到 c1 上,r1 会写入数据到 c1,然后 k1 会从 c1 读数据
a1.sources.r1.channels = c1
# 注意这里的 channel 后面没有 s,因为一个 Sink 只能绑定一个 Channel
a1.sinks.k1.channel = c1
启动flume,其次启动m2,m3,m1
flume-ng agent -c $FLUME_HOME/conf -n a1 -f $FLUME_HOME/shanchu.conf -Dflume.root.logger=INFO,consol
在m1上nc m1 9999 发送数据