NiFi Processors之PutHDFS

NiFi是一个数据处理和分发系统,其中很重要的一部分是处理器(Processors)。一个处理器组合系统间的数据路由、转换或调解。处理器可以访问给定FlowFile的属性及其内容流。处理器可以在给定的工作单元中对零个或多个FlowFile进行操作,并提交该工作或回滚。

本文介绍NiFi处理器之一 :PutHDFS

描述

写FlowFile数据到Hadoop Distributed File System (HDFS)中。

属性

这里只介绍我使用过的配置:

名称默认值允许值描述提示
Hadoop Configuration Resources一个文件或者逗号分隔的文件列表,这些文件包含Hadoop文件系统的配置。如果不配置此项,Hadoop将从classpath中搜索 ‘core-site.xml’ 和 ‘hdfs-site.xml’ 文件或者使用默认值。系统绝对路径,示例值:/etc/hadoop/conf/core-site.xml;或者NiFi安装目录下的相对路径,例如core-site.xml文件放在NiFi安装目录下的conf/hadoop目录,则示例值为:conf/hadoop/core-site.xml
Directory文件写入HDFS的目标目录,如果目录不存在,将被创建。如果是hdfs用户传过来的文件,则不用提前创建目录,否则需要提前创建目录并修改拥有者,如果处理器发生因用户权限而无法写入数据的错误,可根据错误提示的用户对应修改,比如: hdfs dfs -chown nifi:nifi /nifi
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值