Flume(十七)AVRO Sink

AVRO Sink会将数据利用AVRO序列化之后再写出到指定节点的指定端口上，结合之前学习的AVRO Source可以是现实数据的多级、扇入、扇出等流动效果。

是实现多级流动 和 扇出流(1到多) 扇入流(多到1) 的基础。非常重要 但是需要多台机器

实例：多节点流动

第一个节点传给第二个节点，第二个节点传给第三个节点

 1.那我们先来把flume的整个安装包都拷贝到第二个主机节点和第三个主机节点上

 scp /export/software/apache-flume-1.11.0/ m2:/export/software/

 scp /export/software/apache-flume-1.11.0/ m3:/export/software/

并配置环境变量

2.在m1主机上编写配置文件

# a1 表示 Agent 的名称，在启动 Flume 的时候指定

# 创建一个 Source，名叫 r1

a1.sources = r1

# 创建一个 Channel，名叫 c1

a1.channels = c1

# 创建一个 Sink，名叫 k1

a1.sinks = k1



# 指定 a1 的输入源类型为端口类型，也就是数据要通过指定的端口发送

# 这里监听本地的 9999 端口

a1.sources.r1.type = netcat

a1.sources.r1.bind = m1

a1.sources.r1.port = 9999



# 表示 a1 的 Channel 类型是 memory，总容量是 1000 个 Event

# 并且每收集 100 个再去提交事务

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000

a1.channels.c1.transactionCapacity = 100



# 表示 a1 的输出是avro类型,写入到m2 102上

a1.sinks.k1.type = avro
a1.sinks.k1.hostname = 192.168.20.102
a1.sinks.k1.port = 9999



# 将 r1 和 k1 绑定到 c1 上，r1 会写入数据到 c1，然后 k1 会从 c1 读数据

a1.sources.r1.channels = c1

# 注意这里的 channel 后面没有 s，因为一个 Sink 能绑定一个 Channel

a1.sinks.k1.channel = c1  

3.编写m2，中间主机的配置文件

 # a1 表示 Agent 的名称，在启动 Flume 的时候指定

# 创建一个 Source，名叫 r1

a1.sources = r1

# 创建一个 Channel，名叫 c1

a1.channels = c1

# 创建一个 Sink，名叫 k1

a1.sinks = k1



# 指定 a1 的输入源类型为端口类型，也就是数据要通过指定的端口发送

# 这里监听本地的 9999 端口，数据接受的是从m1传过来的avro类型

a1.sources.r1.type = avro

a1.sources.r1.bind = m2

a1.sources.r1.port = 9999



# 表示 a1 的 Channel 类型是 memory，总容量是 1000 个 Event

# 并且每收集 100 个再去提交事务

a1.channels.c1.type = memory

a1.channels.c1.capacity = 1000

a1.channels.c1.transactionCapacity = 100



# 表示 a1 的输出是avro类型,输出到m3,103上

a1.sinks.k1.type = avro
a1.sinks.k1.hostname = 192.168.20.103
a1.sinks.k1.port = 9999



# 将 r1 和 k1 绑定到 c1 上，r1 会写入数据到 c1，然后 k1 会从 c1 读数据

a1.sources.r1.channels = c1

# 注意这里的 channel 后面没有 s，因为一个 Sink 只能绑定一个 Channel

a1.sinks.k1.channel = c1  

4.编写m3，接受数据的最后一个节点的配置文件

# a1 表示 Agent 的名称，在启动 Flume 的时候指定

# 创建一个 Source，名叫 r1

a1.sources = r1

# 创建一个 Channel，名叫 c1

a1.channels = c1

# 创建一个 Sink，名叫 k1

a1.sinks = k1

# 指定 a1 的输入源类型为端口类型，也就是数据要通过指定的端口发送

# 这里监听本地的 9999 端口

a1.sources.r1.type = avro

a1.sources.r1.bind = m3

a1.sources.r1.port = 9999

# 表示 a1 的 Channel 类型是 memory，总容量是 1000 个 Event

# 并且每收集 100 个再去提交事务

a1.channels.c1.type = memory


# 表示 a1 的输出是日志类型

a1.sinks.k1.type = logger

# 将 r1 和 k1 绑定到 c1 上，r1 会写入数据到 c1，然后 k1 会从 c1 读数据

a1.sources.r1.channels = c1

# 注意这里的 channel 后面没有 s，因为一个 Sink 只能绑定一个 Channel

a1.sinks.k1.channel = c1  

5.在m1上 使用nc m1 9999发送数据 aaaaaaaaa

此时将数据发送给m2,102（第二个节点上），第二个节点通过avro格式接受后，传递给第三个节点m3,103上，数据如下

6.注意多机发送数据一定要把相应端口打开，或关闭防火墙