ConvertJSONToSQL

有很多同学跟我反映  博客里的很多图都没了,真的很抱歉;

目前CSDN这里的博客不会再维护了,关于NIFI的文章会陆续在

https://nifichina.gitee.io

https://nifichina.github.io   

以及公众号更新

将json转换成可执行的SQL;json要求为flat型的,就理解为是简单的key-value形式,没有过深的结构;json是单条,数组都可以;数组的json时,输出是若干个单条json的SQL语句;

配置:

 

JDBC Connection Pool:数据库连接池HiveConnectionPoolDBCPConnectionPoolDBCPConnectionPoolLookup

Statement Type:UPDATE INSERT DELETE

Table Name

Catalog Name:设置为空就行;

Schema Name:看数据库类型配置,比如gp之类的就有schema

Translate Field Names:如果为真,处理器将尝试将JSON字段名转换为指定表的适当列名。如果为false, JSON字段名必须与列名完全匹配,否则不会更新列

Unmatched Field Behavior:一个字段不匹配,如何处理;可选忽略不匹配字段,或者直接报错;

Unmatched Column Behavior:所有字段都不匹配,如何处理;

Update Keys:惟一地标识数据库中用于UPDATE语句的行。如果语句类型为UPDATE,且未设置此属性,则使用表的主键。在这种情况下,如果不存在主键,那么如果将不匹配的列行为设置为failed,那么转换到SQL的操作将失败。如果语句类型为INSERT,则忽略此属性

Quote Column Identifiers:引用列标识符;启用此选项将导致引用所有列名,允许在表中使用保留字作为列名。

Quote Table Identifiers:同上

SQL Parameter Attribute Prefix:SQL参数属性前缀,sql.args.1.value  那个sql就是前缀

 

最后:大量数据插入,这个Processor的效率很低的,为什么这么说呢,一个流的数据如果是json,也应该是json数组,但一个json数组通过这个processor得到的结果是若干个insert语句,每一个insert语句中只有一条数据;可以改进成insert into table ()values ()()。。。的形式;也可以使用PutDatabaseRecord 做大量数据的insert,PutDatabaseRecord的优势是内置reader,减少了流程的中间落地(当然PutDatabaseRecord 也没有做到最好,还可以再优化,我自己改过一版PutDatabaseRecordQuicklyForInsert ,有空再更一下)

以下是使用 Apache NiFi 搭建简单数据流的 demo 介绍: 1. 安装 NiFi:首先需要下载并安装 NiFi。可以从官方网站下载最新版本的 NiFi,或者从 Apache 的镜像站点下载。安装完成后,启动 NiFi。 2. 创建数据流:在 NiFi 的主界面中,点击左侧的 Processors 标签,可以看到各种可用的处理器。选择一个 GetFile 处理器,将其拖拽到右侧的工作区。然后双击 GetFile 处理器,进入其配置界面,设置输入文件夹路径,然后点击 Apply。 3. 添加处理器:在工作区中,再次拖拽一个处理器,例如 ConvertJSONToSQL 处理器。将其连接到 GetFile 处理器的输出端口。然后双击 ConvertJSONToSQL 处理器,进入其配置界面,设置输出数据库连接信息和 SQL 语句,然后点击 Apply。注意,需要预先安装并配置相应的数据库。 4. 运行数据流:在工作区中,点击右上角的运行按钮,NiFi 将开始运行数据流。它会自动从输入文件夹中读取数据,将其转换为 SQL 语句,并将结果插入到数据库中。 5. 监控数据流:在 NiFi 的主界面中,可以看到各种监控信息,包括处理器的状态、数据流的流量、错误信息等。可以使用这些信息来监控和调试数据流。 这是一个简单的 NiFi 数据流示例,演示了如何使用 NiFi 来实现数据处理和转换。根据实际需求,可以添加更多的处理器,以实现更复杂的数据转换和处理任务。
评论 3
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值