【测试】FlinkSql映射kafka数据成表

FlinkSql环境配置及测试文档

测试flinksql功能及1.12提供的 upsert,并尝试将目前的需求通过简单demo的方式实现

一、流程设计

1、确定数据格式

姓名,年龄,是否学生,操作类型,操作时间
name,age,isStu,opt,optDate

2、准备初始数据

zhangsan,18,1,insert
zhangsan,20,2,update
lisi,29,1,insert
wangwu,29,2,insert

3、新增数据,同时监测flink数据是否有变化

zhangsan,18,1,insert

二、kafka消息队列

1、创建topic

kafka-topics  --create --zookeeper 192.168.5.185:2181,192.168.5.165:2181,192.168.5.187:2181 --replication-factor 3 --partitions 3 --topic hz_test

2、模拟消费者

kafka-console-consumer  --bootstrap-server 192.168.5.185:9092,192.168.5.165:9092,192.168.5.187:9092 --topic test01 --from-beginning

3、模拟生产者

kafka-console-producer  --broker-list 192.168.5.185:9092,192.168.5.165:9092,192.168.5.187:9092 --topic hz_test

4、删除topic

kafka-topics --delete --topic hz_test --zookeeper 192.168.5.185:2181,192.168.5.165:2181,192.168.5.187:2181

三、flinkSql环境配置

环境报错一
[ERROR] Could not execute SQL state
  • 0
    点赞
  • 1
    收藏
    觉得还不错? 一键收藏
  • 6
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 6
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值