Flink
晚宁5588
秘密花园
展开
-
提交Flink的jar包到Yarn上,web界面log报错
在hadoop环境下运行flink的batch程序:./flink run /home/hadoop/proj/wordcount.jar --input hdfs://mycluster/flinkProjectData/111.txt一段时间后,flink的web界面上,taskmanager和jobmanager下的logs分别出现error:taskmanager:ER...原创 2019-03-14 18:18:24 · 2987 阅读 · 0 评论 -
Flink On Yarn的奇怪问题
执行yarn-session.sh后,分配taskmanager不起作用:无论分配多少taskmanager,并行度设置得少,只在一个host上运行,但是每次的host不一定相同;并行度设置得多,才在不同的host上运行。比如:-n 3,-s 4,照理说并行度-p 6就应该在2个taskmanager上运行了,但是直到-p 20+才在第二个taskmanager上运行,说明-n 3,-...原创 2019-03-19 15:02:44 · 909 阅读 · 2 评论 -
Flink任务提交给Yarn,为何web界面只有一个Taskmanager?
使用yarn-session在yarn集群上启动一个flink集群:./yarn-session.sh -n 4 -jm 1024 -tm 1024 -s 2此时,在master:8088的界面看到多了一个application,但是running containers数量为1;【为何不是分配的4】然后,继续在yarn上提交flink的jar包运行:./flink run -p...原创 2019-03-18 10:06:08 · 5596 阅读 · 4 评论