flink读取不到文件_Flink开发遇到的问题汇总-

1,提交的离线任务完成之后,在一段时间后web端没有显示或者说自动消失:e2f3cbab3cb343e6f75fe09644d9e975.png

原因分析:

https://blog.csdn.net/u013076044/article/details/104740792

是需要开启historyserver

2,Flink读取hdfs的(hive分区)文件,目前已知有三种方式:

通过循环union方式,本地可以执行,集群提交报错

3cd4b5582adb591c14d2088c56a8d0c9.png

通过官方API,可是只支持csv文件格式,可以读取hdfs上的文件:

5266f2edfb035c382cd0c56b792257db.png

b06e7caa63a25c53282a489078d8e6df.png

不在官方API的方式,正在测试….

b50e1019320a01d111e73345bfb60dfb.png

参考:

背景:使用flink批作业 读取存在hdfs上的日志 需要迭代读取目录下所有文件的内容

使用的方法:

Configuration conf = new Configuration();

conf.setBoolean("recursive.file.enumeration", true);

DataSetin = env.readTextFile(urlWithDate).withParameters(conf);

但是由于日志数量比较大 出现akka链接超时问题

无法正常提交job

相关社区issue:

https://issues.apac

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值