flume
健康平安的活着
再给我一次重生的机会,我将加倍珍惜,将java事业进行到底。
展开
-
flume 学习四:windows下运行flume
案例一:通过定制sink端向文件中输入信息。1. 将bin软件包解压:2. 将example2.conf文件放到conf文件夹下:#a1.sources = r1a1.sinks = k1a1.channels = c1# Describe/configure the source#a1.sources.r1.type = com.din原创 2016-05-26 13:13:54 · 4262 阅读 · 2 评论 -
flume 学习四:各种执行案例二
1.1 将日志写到hdfs上:a4.conf的内容#定义agent名, source、channel、sink的名称a4.sources = r1a4.channels = c1a4.sinks = k1 #具体定义sourcea4.sources.r1.type = spooldira4.sources.r1.spoolDir = /home/jurf原创 2016-12-28 14:39:48 · 436 阅读 · 0 评论 -
flume学习一:flume基础知识
一.Flume使用的前提:Flume使用 java编写,其需要运行在 Java1.6或更高版本之上。二.Flume的定义:Flume是一个分布式、可靠、高效可用的海量日志采集、聚合和传输系统,支持在系统中定制各类数据发送方,用于搜集数据;同时,flume提供对数据进行加单处理,并写到各种数据接受方(可定制)的能力。核心一句话:将数据从数据源收集过来,再送到目的地。为了保证输送一...原创 2016-05-30 09:45:17 · 11215 阅读 · 3 评论 -
flume 学习三:各种执行案例
说明:-c目录,-f 具体文件,文件名 ,-n 代理名称,以下两个命令等同,一个是简写bin/flume-ng agent --conf ./conf --conf-file ./conf/example.conf --name a1 -Dflume.root.logger=INFO,consolebin/flume-ng agent -c ./conf -f ./conf/examp原创 2016-04-20 14:42:19 · 1659 阅读 · 0 评论 -
flume1.9.0的安装
2.1flume的安装flume的tar包下载地址: http://flume.apache.org/download.html2.1.1上传flume的tar包2.1.2解压[root@meboth-master opt]# tar -zxvf ./installsoftpackagedir/apache-flume-1.9.0-bin.tar.gz -C /o...原创 2019-07-06 15:49:37 · 934 阅读 · 0 评论 -
flume 监控目录文件,将内容定时输入到hdfs上
3.3.1 编写脚本文件:tohdfs.conf#定义agent名, source、channel、sink的名称a4.sources = r1a4.channels = c1a4.sinks = k1#具体定义sourcea4.sources.r1.type = spooldira4.sources.r1.spoolDir = /opt/rh#具体定义chann...原创 2019-07-06 18:29:56 · 603 阅读 · 0 评论 -
flume的项目实现自定义sink的输出端
详细的flume工程代码见百度网盘:实现的功能:监听某个文件的最新输入,让后将其输入到制定文件中。#配置文件:push.conf # Name the components on this agent a1.sources = r1 a1.sinks = k1 a1.channels = c1 # Describe/configure the...原创 2019-07-06 18:34:47 · 586 阅读 · 0 评论