Apache Flink 零基础入门(二十一)Flink HistoryServer概述与配置

之前我们做了Flink的开发,开发完成之后就需要进行监控。

Flink 有一个History Server可以在相关Flink 集群关闭之后,还可以查看一些信息。也就是一些作业运行完成之后,可以用History Server查看运行的统计信息。同时,还暴露了一些RestAPI,允许http进行请求。
修改配置文件conf/flink-conf.yaml

jobmanager.archive.fs.dir: hdfs://swarm-manager:9000/completed-jobs/
historyserver.web.address: 0.0.0.0
historyserver.web.port: 8083
historyserver.archive.fs.dir: hdfs://swarm-manager:9000/completed-jobs/
historyserver.archive.fs.refresh-interval: 10000

启动HistoryServer

在这里插入图片描述
浏览器中输入地址:http://swarm-manager:8083
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
查看HDFS中的文件:
在这里插入图片描述
因为还没有执行作业,所以没有生成completed-jobs文件

测试History Server

执行命令./bin/flink run -m yarn-cluster -yn 1 ./examples/batch/WordCount.jar
浏览器中输入:http://swarm-manager:8083
在这里插入图片描述
然后在hdfs中查看:
在这里插入图片描述

API

请求发送http://hostname:8083(这个在配置文件中设置的)/jobs
URI:

  • /config
  • /jobs/overview
  • /jobs/< jobid>
  • /jobs/< jobid>/vertices
  • /jobs/< jobid>/config
  • /jobs/< jobid>/exceptions
  • /jobs/< jobid>/accumulators
  • /jobs/< jobid>/vertices/< vertexid>
  • /jobs/< jobid>/vertices/< vertexid>/subtasktimes
  • /jobs/< jobid>/vertices/< vertexid>/taskmanagers
  • /jobs/< jobid>/vertices/< vertexid>/accumulators
  • /jobs/< jobid>/vertices/< vertexid>/subtasks/accumulators
  • /jobs/< jobid>/vertices/< vertexid>/subtasks/< subtasknum>
  • /jobs/< jobid>/vertices/< vertexid>/subtasks/< subtasknum>/attempts/< attempt>
  • /jobs/< jobid>/vertices/< vertexid>/subtasks/< subtasknum>/attempts/< attempt>/accumulators
  • /jobs/< jobid>/plan
    例如: http://hostname:port/jobs/7684be6004e4e955c2a558a9bc463f65/exceptions
    在这里插入图片描述
  • 1
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值