hadoop
文章平均质量分 77
FishMAN_已存在
热情
展开
-
java.io.FileNotFoundException: File does not exist: hdfs://xxx
一、产生问题背景我们公司正在准备从cdh迁回社区版hadoop集群,启动flink任务的时候,还未运行就直接报错:Caused by: org.apache.flink.yarn.YarnClusterDescriptor$YarnDeploymentException: The YARN application unexpectedly switched to state FAILED during deployment.Diagnostics from YARN: Application appl原创 2021-01-27 11:35:59 · 8269 阅读 · 2 评论 -
Hadoop和hive-exec-3.1.2的Guava的版本冲突导致Flink任务启动异常
一、背景1、出现异常公司准备从CDH迁回社区版Hadoop集群,直接把Hadoop升级为比较新的3.30版本,Hive升级为3.12版本。Flink编译的是1.12.0版本,启动自己的测试直接报出下面的错,甚至启动官方的demo任务也会报相同的错。Caused by: java.lang.NoSuchMethodError: com.google.common.base.Preconditions.checkArgument (ZLjava/lang/String;Ljava/lang/Object;原创 2021-01-27 11:32:23 · 3902 阅读 · 4 评论 -
HDFS & Yarn 即Hadoop by Jmx on Promethues + Grafana的监控(一) —— Promethues的安装
一、安装Go环境因为Promethues是用go语言开发,所以要先安装一个go环境1、下载安装包地址:Linux :go1.8.3.linux-amd64.tar.gz (86MB)Windows :go1.8.3.windows-amd64.msi (78MB)Mac :go1.8.3.darwin-amd64.tar.gz (85MB)Source: go1.8.3.src.tar.gz (15MB)2、解压 tar -C /usr/local -xzf go1.8.原创 2021-01-22 18:02:29 · 483 阅读 · 0 评论 -
HDFS & Yarn 即Hadoop by Jmx on Promethues + Grafana的监控(二) —— Promethues数据源配置
注意:如果还未安装Promethues,参考HDFS & Yarn on Promethues + Grafana的监控(一) —— Promethues的安装一、配置Promethues的数据源1、下载jmx_prometheus_javaagent-0.13.0.jar包:wget https://repo1.maven.org/maven2/io/prometheus/jmx/jmx_prometheus_javaagent/0.13.0/jmx_prometheus_java原创 2021-01-22 18:25:58 · 1964 阅读 · 8 评论 -
HDFS & Yarn 即Hadoop by Jmx on Promethues + Grafana的监控(三) —— Grafana的Dashboard配置(以 Yarn 为例)
一、整体效果Yarn的监控最主要是能看到目前活跃的ResourceManager,同时能够显示目前的Nodemanager的活跃情况。其次是能够看到RM和NM的可用内存、可用Cpu、GC、RPC等的监控。还有就是比如namenode挂掉就能报警等。二、举几个案例可用自行配置简单的配置左Y轴右Y轴的单位,rate()方法的使用等简单的操作自行百度其他文章,这些分享一些骚操作。1、怎么显示RM的状态(1)首先要配置出下图这个样子a、选择你的数据源Promethuesb、在metric里选择Ha原创 2021-01-22 18:28:35 · 1700 阅读 · 4 评论