flink sql自动优化导致函数不打印日志并且只调用一次的大坑
场景:
在项目开发中,需要自定义一个udf函数去处理当前系统时间并记录,然而在使用中发现函数调用的时候生成的所有时间都是一样的,经过反复测试发现这个自定义的udf类仅仅在flink job启动时调用了一次,所以生成的时间都是最初job加载的时间
原因:
查阅资料后发现,flink sql存在一种防止反复调用的优化机制,当udf 的function被调用时,如果你选择无参构造,flinksql执行器会通过生成的物理计划对sql进行优化来防止反复调用生成相同的结果来节省资源,简单来说就是无参的自定义udf
原创
2022-05-16 22:01:29 ·
635 阅读 ·
1 评论