Flume复制和多路复用原理与实现

原理

复制：利用Channel Selector将相同的数据发送到不同Channel中，不同Channel中的数据分发到不同的Sink，不同的Sink再将数据发送到指定位置。
多路复用：利用拦截器和Channel Selector将不同的数据发送到不同的Channel中，不同Channel中的数据分发到不同的Sink，不同的Sink再将数据发送到指定位置。

案例

使用Flume-1监控文件变动，Flume-1将变动内容传递给Flume-2，Flume-2负责存储到HDFS。同时Flume-1将变动内容传递给Flume-3，Flume-3负责输出到Local FileSystem。

下面的实现写的都是控制台测试，重新定义source源和sink源即可实现监听指定文件和写出到指定位置。

复制实现

# agent1配置文件放在hadoop01
# 定义sources、channels、sinks
a1.sources = r1
a1.channels = c1 c2
a1.sinks = k1 k2

# 配置source
# a1.sources.r1.type = exec
# a1.sources.r1.command = tail -F /opt/module/hive/logs

# netcat端口测试
a1.sources.r1.type = netcat
a1.sources.r1.bind = hadoop01
a1.sources.r1.port = 11111

# 配置Channel Selector，默认为replicating 复制
a1.sources.r1.selector.type = replicating

# 配置channel
a1.channels.c1.type = memory
a1.channels.c2.type = memory

# 配置sink k1 数据发送到hadoop02的22222端口
a1.sinks.k1.type = avro
a1.sinks.k1.hostname = hadoop02
a1.sinks.k1.port = 22222

# 配置sink k2 数据发送到hadoop03的33333端口
a1.sinks.k2.type = avro
a1.sinks.k2.hostname = hadoop03
a1.sinks.k2.port = 33333

# 配置source、sink、channel关系
a1.sources.r1.channels = c1 c2
a1.sinks.k1.channel = c1
a1.sinks.k2.channel = c2

# agent2配置文件放在hadoop02
# 定义sources、channels、sinks
a1.sources = r1
a1.channels = c1
a1.sinks = k1

# 配置source 从指定地址的端口接收数据
a1.sources.r1.type = avro
a1.sources.r1.bind = hadoop02
a1.sources.r1.port = 22222

# 配置channel
a1.channels.c1.type = memory

# 配置sink 
a1.sinks.k1.type = logger
# 测试logger打印到控制台，如果需要保存到指定位置，修改sink的类型即可

# 配置source、sink、channel关系
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

# agent3 配置文件放在hadoop03
# 定义sources、channels、sinks
a1.sources = r1
a1.channels = c1
a1.sinks = k1

# 配置source 从指定地址的端口接收数据
a1.sources.r1.type = avro
a1.sources.r1.bind = hadoop03
a1.sources.r1.port = 33333

# 配置channel
a1.channels.c1.type = memory

# 配置sink 
a1.sinks.k1.type = logger
# 测试logger打印到控制台，如果需要保存到指定位置，修改sink的类型即可

# 配置source、sink、channel关系
a1.sources.r1.channels = c1
a1.sinks.k1.channel = c1

启动不同节点的agent实例时，先启动接收端的agent，再启动发送端的agent。

多路复用实现

需要配置拦截器和Chennal Selector使用

# agent1
# 定义sources、channels、sinks
a1.sources = r1
a1.channels = c1 c2
a1.sinks = k1 k2

# 配置source
# a1.sources.r1.type = exec
# a1.sources.r1.command = tail -F /opt/module/hive/logs

# netcat端口测试
a1.sources.r1.type = netcat
a1.sources.r1.bind = hadoop01
a1.sources.r1.port = 11111

# 配置Channel Selector  multiplexing复用
a1.sources.r1.selector.type = multiplexing
# state是event headers中的key
a1.sources.r1.selector.header = state
# CZ是event headers中的key对应的value，如果是CZ就发往c1
a1.sources.r1.selector.mapping.CZ = c1
# US是event headers中的key对应的value，如果是US就发往c2
a1.sources.r1.selector.mapping.US = c2

# 配置拦截器
a1.sources.r1.interceptors = i1
# static拦截器可以给event headers添加自定义的key和value
a1.sources.r1.interceptors.i1.type = static
# 指定能通过的key和value类型
a1.sources.r1.interceptors.i1.key = state
# 只有headers信息中，key=state，value=CZ的才会被发送
a1.sources.r1.interceptors.i1.value = CZ

# 配置channel
a1.channels.c1.type = memory
a1.channels.c2.type = memory

# 配置sink k1 数据发送到hadoop02的22222端口
a1.sinks.k1.type = avro
a1.sinks.k1.hostname = hadoop02
a1.sinks.k1.port = 22222

# 配置sink k2 数据发送到hadoop03的33333端口
a1.sinks.k2.type = avro
a1.sinks.k2.hostname = hadoop03
a1.sinks.k2.port = 33333

# 配置source、sink、channel关系
a1.sources.r1.channels = c1 c2
a1.sinks.k1.channel = c1
a1.sinks.k2.channel = c2

agent2和agent3的实例同上面的配置文件。