flume ng进击之路 (三) —— 自定义source API开发

概述

关于flume ng的简单介绍,可以参考flume ng进击之路 (一)—— 入门,同时flume ng也提供了各种各样的source和sink接口供我们在生成环境中使用,但是在生产环境中,我们常常需要定制的source或者sink来满足我们的要求。

好在flume ng提供了开放接口,我们可以根据这些接口,实现自己定制的source或者sink。下面我们来看一下如何实现自定义source框架。

实现

maven依赖

首先,要根据flume ng提供的接口来实现自定义source,需要我们依赖flume ng的配置,我们引入两个配置flume-ng-core和flume-ng-configuration,具体的maven配置如下:

        <dependency>
            <groupId>org.apache.flume</groupId>
            <artifactId>flume-ng-core</artifactId>
            <version>1.6.0</version>
        </dependency>
        <dependency>
            <groupId>org.apache.flume</groupId>
            <artifactId>flume-ng-configuration</artifactId>
            <version>1.6.0</version>
        </dependency>

source都包含哪些东西

在正式开始之前,我们先看看官网上一个source是如何使用的。我们在使用source的时候,只需要简单的配置一个文件,比如我们看看官网的Spooling Directory Source是如何监控一个文件夹的文件变化并且抓取的。
简单的配置如下:

a1.channels = ch-1
a1.sources = src-1

a1.sources.src-1.type = spooldir
a1.sources.src-
  • 0
    点赞
  • 6
    收藏
    觉得还不错? 一键收藏
  • 1
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 1
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值