数据同步FlinkX和DataX

DataX是一个单机同步工具,核心底层通道的分布式支持不友好。

FlinX补充了DataX的短板,详见Flink 数据同步先行者- FlinkX


自我体验:

step1:

linux上部署flink 和 flinkx

step2:

vi /etc/profile

export FLINK_HOME=/root/flink
export FLINKX_HOME=/root/flinkx/flinkx-1.8.7

source /etc/profile

step3:

local模式:

nohup bin/flinkx -mode local -job  $FLINKX_HOME/mysqltomysql.json -pluginRoot $FLINKX_HOME/plugins -confProp "{\"flink.checkpoint.interval\":60000}"  &

standalone模式:

nohup bin/flinkx -mode standalone -job  $FLINKX_HOME/mysqltomysql.json -pluginRoot $FLINKX_HOME/plugins -flinkconf $FLINK_HOME/conf -confProp "{\"flink.checkpoint.interval\":60000}"  &

问题1:

...............
Could not allocate all requires slots within timeout of 300000 ms. Slots required: 3, slots allocated: 1 ..................

解决办法:因为,flink中设置的slot是1,少于3.

问题2:

解决办法:去Flink官网下载hadoop的组件添加到Flink的lib文件夹下,重启Flink,问题解决。(为什么用hadoop组件就解决?知道的小伙伴麻烦留言)

                 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值