Doris与kettle的那些事

1、使用表输入,表输出(本质上是insert into tablename values())来同步数据,

例如表输入(Oracle查询),表输出(Doris里表),Doris连接里一定记得加上参数,PreparedStatement 来进行批量插入,
在mysql链接后面增加rewriteBatchedStatements=true,开启doris批量提交。(rewriteBatchedStatements=true 会确保 Driver 执行批处理)
在这里插入图片描述

2、使用StreamLoad方式同步数据到Doris

Stream Load 是通过 HTTP 协议与 Doris 进行连接交互的。把查询出来的数据转成json格式(这种方式必须配合设置 strip_outer_array=true 使用。Doris 在解析时会将数组展开,然后依次解析其中的每一个 Object 作为一行数据。),再通过Rest Client 组件,如下图,
1>注意请求头参数
2>还有一点需要注意,如果用kettle管理平台去调度job,Java内存无法释放,建议使用Carte服务去调用job,推荐使用表输入表输出的方式去同步
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述

  • 2
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 12
    评论
评论 12
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

Tony-甲

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值