FlinkSql环境配置及测试文档
测试flinksql功能及1.12提供的 upsert,并尝试将目前的需求通过简单demo的方式实现
一、流程设计
1、确定数据格式
姓名,年龄,是否学生,操作类型,操作时间
name,age,isStu,opt,optDate
2、准备初始数据
zhangsan,18,1,insert
zhangsan,20,2,update
lisi,29,1,insert
wangwu,29,2,insert
3、新增数据,同时监测flink数据是否有变化
zhangsan,18,1,insert
二、kafka消息队列
1、创建topic
kafka-topics --create --zookeeper 192.168.5.185:2181,192.168.5.165:2181,192.168.5.187:2181 --replication-factor 3 --partitions 3 --topic hz_test
2、模拟消费者
kafka-console-consumer --bootstrap-server 192.168.5.185:9092,192.168.5.165:9092,192.168.5.187:9092 --topic test01 --from-beginning
3、模拟生产者
kafka-console-producer --broker-list 192.168.5.185:9092,192.168.5.165:9092,192.168.5.187:9092 --topic hz_test
4、删除topic
kafka-topics --delete --topic hz_test --zookeeper 192.168.5.185:2181,192.168.5.165:2181,192.168.5.187:2181
三、flinkSql环境配置
环境报错一
[ERROR] Could not execute SQL state