dr.elephant 环境搭建及使用详解

Dr.Elephant是由LinkedIn开发的Hadoop和Spark性能监控工具,本文详细介绍了其环境搭建过程,包括配置play框架、编译源码、解决常见问题等,并简要说明了其功能和架构,旨在帮助提升作业性能和集群资源利用率。
摘要由CSDN通过智能技术生成

Dr.elephant是一款对Hadoop和Spark任务进行性能监控和调优的工具,它由LinkedIn的团队于2016年开源,开源之前已经在公司运行使用2年。

目前使用Dr.elephant的公司国内的有Didi,国外的有airbnb、inmobi、hulu、FourSquare和PayPal等等。
项目地址:https://github.com/linkedin/dr-elephant

笔者所在公司每天有上万作业提交yarn执行,如果能提高作业性能,这对提升集群资源利用率,减少硬件投入成本有很大意义。

本文主要介绍:

  1. dr.elephant 环境搭建及问题处理
  2. dr.elephant功能介绍
  3. 简要介绍dr.elephant架构

###1、环境搭建及问题处理
整体环境:dr.elephant 2.0.6, hadoop 2.6.0, spark 2.0.1

1)从github上下载Dr. Elephant源码
git clone https://github.com/linkedin/dr-elephant.git
本地安装play框架,在环境变量PATH添加play命令路径。play对Java版本要求,版本必须是Java 8以上。(本人下的是play-2.2.6)

2)play framework的环境变量配置

 export JAVA_HOME=/usr/jdk64/jdk1.8.0_60/
 export PLAY_HOME=/opt/play-2.2.6
 PATH=\$PATH:\$PL
评论 7
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值