流处理架构选型

本文探讨了使用Greenplum与Flink进行流处理的方案,介绍了Greenplum作为分布式RDBMS的局限性以及Flink、Spark、Storm等流处理框架的选择。在安装过程中遇到的问题,如Greenplum的yum安装和Docker中的安装问题。文章重点讨论了Flink集成Kafka和Kafka Connector的重要性,并分享了在Spring Boot中Greenplum配置导致的异常问题及其解决方案。最后给出了参考资料供进一步学习。
摘要由CSDN通过智能技术生成

greenplum + flink 做流处理

从批处理ETL到流式处理:一个来自Netflix的案例 https://juejin.im/entry/5aa73ccd6fb9a028c81285cb

greenplum = oracle12C 分布式RDB。 但是还是有局限性的。
flink、spark、storm

flink安装

docker run -t -p 8081:8081 flink local

greenplum安装

  • yum方式安装不行。200的python是3.0的,语法不兼容2.7
  • 在docker中安装greenplum: 不可以,到处都是坑。

总结

弄flink要把kafka 和 kafka connector做一下,flink不能从rdb抽取数据的话,用kafka connector弄一下
https://www.confluent.io/blog/kafka-connect-deep-dive-jdbc-source-connector

greenplum-boot集成的问题

  • get url = null and ClassDriver = null
    获取不到配置:
  1. 配置的默认mysql的Datasource没问题,
  2. spring.datasource配置是有的
  3. 获取不到配置文件?
    3.1 看jar的的classpath - 没有问题
    3.2 看appalication.ps里缺配置 - 没有
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值