Uber JVM Profiler实战

最新推荐文章于 2020-10-10 14:17:17 发布
最新推荐文章于 2020-10-10 14:17:17 发布
阅读量189 收藏
点赞数
原文链接：https://my.oschina.net/guol/blog/917009
版权

为什么80%的码农都做不了架构师？>>>   hot3.png

背景

        日常工作经常需要监控一些java进程的内存、cpu资源使用情况，也就是jmx中的信息。一般的java应用都有暴露jmx的机制，然后由客户端连接进程信息查看。此种方式有个限制，就是你必须知道jmx的地址，然后才能连接，如果该应用是动态漂移的，比如docker、spark等分布式程序，每次运行的节点是变化的。这时不妨换个思路，由应用程序自主的push jmx信息出来，然后我们去一个集中的地方进行信息收集。

        uber的jvm profiler就是这样一个工程，这个项目之初是为了收集spark的jvm信息的，不过也可以在其他java进程上使用。ps：和jmxtrans有点类似，都是在服务端引用相关jar包，然后向外push数据，不过uber的jmx profile可以把数据push到redis、kafka、datadog、influxdb等系统中。

         jvm profile依赖jdk8，详细信息查看github

        由于实际工作中使用场景关系，本次实战tomcat和jar的使用方式。

下载

git clone https://github.com/uber-common/jvm-profiler.git

编译

mvn clean package -Dmaven.test.skip=true
[INFO] Scanning for projects...
[INFO]                                                                         
[INFO] ------------------------------------------------------------------------
[INFO] Building uber-jvm-profiler 1.0.0
[INFO] ------------------------------------------------------------------------
[INFO] 
[INFO] --- maven-clean-plugin:2.5:clean (default-clean) @ jvm-profiler ---
[INFO] Deleting /mnt/jvm-profiler/target
[INFO] 
[INFO] --- maven-resources-plugin:2.6:resources (default-resources) @ jvm-profiler ---
[INFO] Using 'UTF-8' encoding to copy filtered resources.
[INFO] skip non existing resourceDirectory /mnt/jvm-profiler/src/main/resources
[INFO] 
[INFO] --- maven-compiler-plugin:3.3:compile (default-compile) @ jvm-profiler ---
[INFO] Changes detected - recompiling the module!
[INFO] Compiling 53 source files to /mnt/jvm-profiler/target/classes
[INFO] /mnt/jvm-profiler/src/main/java/com/uber/profiling/util/StringUtils.java: /mnt/jvm-profiler/src/main/java/com/uber/profiling/util/StringUtils.java uses or overrides a deprecated API.
[INFO] /mnt/jvm-profiler/src/main/java/com/uber/profiling/util/StringUtils.java: Recompile with -Xlint:deprecation for details.
[INFO] /mnt/jvm-profiler/src/main/java/com/uber/profiling/YamlConfigProvider.java: Some input files use unchecked or unsafe operations.
[INFO] /mnt/jvm-profiler/src/main/java/com/uber/profiling/YamlConfigProvider.java: Recompile with -Xlint:unchecked for details.
[INFO] 
[INFO] --- maven-resources-plugin:2.6:testResources (default-testResources) @ jvm-profiler ---
[INFO] Not copying test resources
[INFO] 
[INFO] --- maven-compiler-plugin:3.3:testCompile (default-testCompile) @ jvm-profiler ---
[INFO] Not compiling test sources
[INFO] 
[INFO] --- maven-surefire-plugin:2.12.4:test (default-test) @ jvm-profiler ---
[INFO] Tests are skipped.
[INFO] 
[INFO] --- maven-jar-plugin:2.6:jar (default-jar) @ jvm-profiler ---
[INFO] Building jar: /mnt/jvm-profiler/target/jvm-profiler-1.0.0.jar
[INFO] 
[INFO] --- maven-shade-plugin:3.1.0:shade (default) @ jvm-profiler ---
[INFO] Including org.apache.kafka:kafka-clients:jar:0.11.0.2 in the shaded jar.
[INFO] Including net.jpountz.lz4:lz4:jar:1.3.0 in the shaded jar.
[INFO] Including org.xerial.snappy:snappy-java:jar:1.1.2.6 in the shaded jar.
[INFO] Including org.slf4j:slf4j-api:jar:1.7.25 in the shaded jar.
[INFO] Including org.apache.commons:commons-lang3:jar:3.5 in the shaded jar.
[INFO] Including com.fasterxml.jackson.core:jackson-core:jar:2.8.11 in the shaded jar.
[INFO] Including com.fasterxml.jackson.core:jackson-databind:jar:2.8.11 in the shaded jar.
[INFO] Including com.fasterxml.jackson.core:jackson-annotations:jar:2.8.0 in the shaded jar.
[INFO] Including org.javassist:javassist:jar:3.21.0-GA in the shaded jar.
[INFO] Including org.yaml:snakeyaml:jar:1.18 in the shaded jar.
[INFO] Including org.apache.httpcomponents:httpclient:jar:4.3.6 in the shaded jar.
[INFO] Including org.apache.httpcomponents:httpcore:jar:4.3.3 in the shaded jar.
[INFO] Including commons-logging:commons-logging:jar:1.1.3 in the shaded jar.
[INFO] Including commons-codec:commons-codec:jar:1.6 in the shaded jar.
[INFO] Replacing original artifact with shaded artifact.
[INFO] Replacing /mnt/jvm-profiler/target/jvm-profiler-1.0.0.jar with /mnt/jvm-profiler/target/jvm-profiler-1.0.0-shaded.jar
[INFO] Dependency-reduced POM written at: /mnt/jvm-profiler/dependency-reduced-pom.xml
[INFO] ------------------------------------------------------------------------
[INFO] BUILD SUCCESS
[INFO] ------------------------------------------------------------------------
[INFO] Total time: 6.168 s
[INFO] Finished at: 2019-05-07T15:46:03+08:00
[INFO] Final Memory: 29M/639M
[INFO] ------------------------------------------------------------------------

配置

    tomcat类型配置

-javaagent:/mnt/jvm-profiler/target/jvm-profiler-1.0.0.jar=reporter=com.uber.profiling.reporters.FileOutputReporter,metricInterval=6000,ioProfiling=true,tag=dalu,outputDir=/tmp

        ps：在java_opts中添加上面的配置

    jar类型配置

-javaagent:/mnt/jvm-profiler/target/jvm-profiler-1.0.0.jar=reporter=com.uber.profiling.reporters.KafkaOutputReporter,metricInterval=6000,ioProfiling=true,tag=dalu,brokerList=192.168.1.6:9092,topicPrefix=profiler_

        ps：在java_opts中添加上面的配置

启动

    tomcat类型

Java Agent 1.0.0 premain args: reporter=com.uber.profiling.reporters.FileOutputReporter,metricInterval=6000,ioProfiling=true,tag=dalu,outputDir=/
tmp
1557212575527 com.uber.profiling.Arguments: Got argument value for reporter: com.uber.profiling.reporters.FileOutputReporter
1557212575527 com.uber.profiling.Arguments: Got argument value for metricInterval: 6000
1557212575527 com.uber.profiling.Arguments: Got argument value for tag: dalu
1557212575527 com.uber.profiling.Arguments: Got argument value for ioProfiling: true
1557212575533 com.uber.profiling.reporters.FileOutputReporter: Got argument value for outputDir: /tmp
1557212576119 com.uber.profiling.AgentImpl: Finished one time profiler: com.uber.profiling.profilers.ProcessInfoProfiler@6f1fba17
1557212576133 com.uber.profiling.AgentImpl: Ran periodic profiler (first run): com.uber.profiling.profilers.CpuAndMemoryProfiler@6325a3ee
1557212576139 com.uber.profiling.AgentImpl: Ran periodic profiler (first run): com.uber.profiling.profilers.IOProfiler@1d16f93d
1557212576146 com.uber.profiling.AgentImpl: Scheduled profiler com.uber.profiling.profilers.CpuAndMemoryProfiler@6325a3ee with interval 6000 mill
is
1557212576146 com.uber.profiling.AgentImpl: Scheduled profiler com.uber.profiling.profilers.IOProfiler@1d16f93d with interval 6000 millis

        ps：看到上面的tomcat日志，表示jvm profile加载成功

查看

    tomcat类型

        会在/tmp下面生成三个文件：CpuAndMemory.json、 IO.json、 ProcessInfo.json。注意这三个文件的内容是追加的操作，也就是文件会越来越大。

        CpuAndMemory.json

{"nonHeapMemoryTotalUsed":1.2519632E7,"bufferPools":[{"totalCapacity":16384,"name":"direct","count":2,"memoryUsed":16384},{"totalCapacity":0,"nam
e":"mapped","count":0,"memoryUsed":0}],"heapMemoryTotalUsed":2.9360128E7,"vmRSS":97513472,"epochMillis":1557209593342,"nonHeapMemoryCommitted":1.
4876672E7,"heapMemoryCommitted":4.294967296E9,"memoryPools":[{"peakUsageMax":251658240,"usageMax":251658240,"peakUsageUsed":567808,"name":"Code C
ache","peakUsageCommitted":2555904,"usageUsed":567808,"type":"Non-heap memory","usageCommitted":2555904},{"peakUsageMax":-1,"usageMax":-1,"peakUs
ageUsed":10728624,"name":"Metaspace","peakUsageCommitted":11010048,"usageUsed":10728624,"type":"Non-heap memory","usageCommitted":11010048},{"pea
kUsageMax":1073741824,"usageMax":1073741824,"peakUsageUsed":1223200,"name":"Compressed Class Space","peakUsageCommitted":1310720,"usageUsed":1223
200,"type":"Non-heap memory","usageCommitted":1310720},{"peakUsageMax":-1,"usageMax":-1,"peakUsageUsed":29360128,"name":"G1 Eden Space","peakUsag
eCommitted":450887680,"usageUsed":29360128,"type":"Heap memory","usageCommitted":450887680},{"peakUsageMax":-1,"usageMax":-1,"peakUsageUsed":0,"n
ame":"G1 Survivor Space","peakUsageCommitted":0,"usageUsed":0,"type":"Heap memory","usageCommitted":0},{"peakUsageMax":4294967296,"usageMax":4294
967296,"peakUsageUsed":0,"name":"G1 Old Gen","peakUsageCommitted":3844079616,"usageUsed":0,"type":"Heap memory","usageCommitted":3844079616}],"pr
ocessCpuLoad":0.3,"systemCpuLoad":0.5,"processCpuTime":700000000,"vmHWM":97513472,"appId":null,"name":"9440@192.168.1.9","host":"192.168.1.9","processUuid":"d1db056d-857f-467f-9f82-9a5d68193781","gc":[{"collectionTime":0,"name":"G1 Young Generation","collectionCount":0},{"col
lectionTime":0,"name":"G1 Old Generation","collectionCount":0}]}

        IO.json

{"system":7506813,"idle":2448896944,"cpu":"cpu2","iowait":22125,"user":13151461,"nice":612246},{"system":6973702,"idle":2450832959,"cpu":
"cpu3","iowait":18469,"user":12478415,"nice":553689}],"appId":null,"name":"9440@192.168.1.9","host":"192.168.1.9","processUuid":"d1
db056d-857f-467f-9f82-9a5d68193781","self":{"io":{"wchar":237804,"write_bytes":237568,"rchar":98387611,"read_bytes":0}},"epochMillis":15572096173
41}

        ProcessInfo.json

{"jvmInputArguments":"","jvmClassPath":"","epochMillis":1557212126677,"cmdline":"test -server -XX:+UseCompressedOops -Xmx4G -Xms4G -se
rver -XX:+UseG1GC -XX:MaxGCPauseMillis=20 -XX:InitiatingHeapOccupancyPercent=35 -XX:+DisableExplicitGC -Djava.awt.headless=true -XX:G1HeapRegionS
ize=2M -verbose:gc -XX:+PrintGCDetails -XX:+PrintGCDateStamps -XX:+PrintGCTimeStamps -XX:+UnlockExperimentalVMOptions -XX:G1NewSizePercent=10 -XX
:G1MaxNewSizePercent=75  -javaagent:/mnt/jvm-profiler/target/jvm-profiler-1.0.0.jar=reporter=com.u
ber.profiling.reporters.FileOutputReporter,metricInterval=6000,ioProfiling=true,tag=dalu,outputDir=/tmp -Xloggc:/opt/app/applications/test/logs/test.gc.log -XX:+HeapDumpOnOutOfMemoryError -XX:HeapDumpPath=/opt/app/applications/test/logs -Dcom.sun.management
.jmxremote -Dcom.sun.management.jmxremote.ssl=false -Dcom.sun.management.jmxremote.authenticate=false -classpath /opt/programs/jdk1.8.0_111/lib/t
ools.jar:/opt/programs/tomcat_8.5.31/bin/bootstrap.jar:/opt/programs/tomcat_8.5.31/bin/tomcat-juli.jar:/opt/app/applications/test/conf
ig:/opt/app/applications/test/lib: -Dapp.name=test -Djava.io.tmpdir=/opt/app/applications/test/temp -Djava.endor
sed.dirs=/opt/programs/tomcat_8.5.31/endorsed -Dcatalina.base=/opt/app/applications/test -Dcatalina.home=/opt/programs/tomcat_8.5.31 o
rg.apache.catalina.startup.Bootstrap start ","appId":null,"name":"10161@192.168.1.9","host":"192.168.1.9","processUuid":"5228e88d-e
838-4607-8a1e-5e6f1c40bcd0","agentVersion":"1.0.0","appClass":null,"tag":"dalu","xmxBytes":4294967296,"appJar":null}

 

 

转载于:https://my.oschina.net/guol/blog/917009

weixin_34198762
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
如何用 Uber JVM Profiler 等可视化工具监控 Spark 应用程序？
weixin_34059951的博客
11-30 392
关键要点持续可靠地运行 Spark 应用程序是一项具有挑战性的任务，而且需要一个良好的性能监控系统。- 在设计性能监控系统时有三个目标——收集服务器和应用程序指标、在时序数据库中存储指标，并提供用于数据可视化的仪表盘。Uber JVM Profiler 被用于监控 Spark 应用程序，用到的其他技术还有 InfluxDB（用于存储时序数据）和 Grafana（数据可视化工具）。性能监控系统可帮助...
常用Java Profiling工具的分析与比较
12-22
在 Java 程序的开发过程中，不可避免地会遇到内存使用、性能瓶颈等问题。Java Profiler 工具能帮助开发人员快速、有效地定位这些问题，因此成为了 Java 开发过程中的一个重要工具。目前市场上的 Java Profiler 工具种类繁多，本文将对目前比较常见的几种工具进行简要介绍，并从功能、性能等角度作比较，从而帮助 Java 程序员选择合适的 Java Profiler 工具。 　　本文主要分为三个部分：第一部分简要介绍 Java Profiler 工具的原理；第二部分对目前常见的 Java Profiler 工具 TPTP， CodePro Profiler， YourKit
Uber jvm-profiler学习
半日闲的博客
09-18 1225
文章目录BuildProfile Java ApplicationMethodDurationMethodArgumentStacktraceCpuAndMemoryHeap & NonHeap[Java Buffer Pool](https://dzone.com/articles/understanding-java-buffer-pool)memoryPoolsGCcpu load操...
Uber开源JVM Profiler，用以跟踪分布式Java虚拟机
精益求精
08-30 522
6月下旬，Uber开源了一个分布式性能分析器，名为JVM Profiler。Uber搭建这一工具的目的是解决他们在使用Apache Spark框架过程中的资源配置问题。Apache Spark是一个非常流行的框架，主要用于处理大型数据流问题，这正是Uber所需要的。JVM Profiler是为Spark而建的，但它也可以被应用于任何基于JVM的服务或应用。 Uber的需求是在运行在数以千计的机器...
如何用Uber JVM Profiler等可视化工具监控Spark应用程序？
cpongo011702
10-24 274
关键要点持续可靠地运行Spark应用程序是一项具有挑战性的任务，而且需要一个良好的性能监控系统。-在设计性能监控系统时有三个目标——收集服务器和应用程序指标、在时序数据库中存储指标，并提供用于数据可视化的仪表盘。Uber JVM Profiler被用于监控Spark应用程序，用到的其他技术还有InfluxDB（用于存储时序数据）和Grafana（数据可视化工具）。性能监控系统可帮助DevOps团队...
Uber jvm profiler 使用
monkeyboy_tech的博客
10-10 296
背景 uber jvm profiler是用于在分布式监控收集jvm 相关指标，如:cpu/memory/io/gc信息等 安装 确保安装了maven和JDK>=8前提下，直接mvn clean package java application 说明 直接以java agent的部署就可以使用 使用 java -javaagent:jvm-profiler-1.0.0.jar=reporter=com.uber.profiling.reporters.KafkaOutputReporter,b
jvm-profiler：JVM Profiler将度量标准发送到Kafka，控制台输出或自定义报告器
02-03
Uber JVM Profiler提供了一个Java代理，以分布式方式收集Hadoop / Spark JVM进程的各种指标和堆栈跟踪，例如CPU /内存/ IO指标。 Uber JVM Profiler还提供了高级概要分析功能，可以跟踪用户代码上的任意Java方法和...
Android代码-jvm-profiler
08-08
Uber JVM Profiler Uber JVM Profiler provides a Java Agent to collect various metrics and stacktraces for Hadoop/Spark JVM processes in a distributed way, for example, CPU/Memory/IO metrics. Uber ...
jvm-profiler,jvm分析器向kafka、控制台输出或自定义报告器发送度量.zip
10-12
Uber的JVM Profiler通过一个Java代理实现，可以无缝集成到Hadoop和Spark等框架中，实时捕获运行时的性能指标，包括但不限于： 1. **CPU使用率**：监控每个线程的CPU占用，找出消耗资源最多的部分。 2. **内存分配**...
【77】 2017年最新Uber车辆监控系统设计实战训练营高清视频教程全套附讲义代码 .txt
10-06
【77】 2017年最新Uber车辆监控系统设计实战训练营高清视频教程全套附讲义代码 .txt【77】 2017年最新Uber车辆监控系统设计实战训练营高清视频教程全套附讲义代码 .txt【77】 2017年最新Uber车辆监控系统设计实战...
Presto在Uber的使用
11-14
介绍Presto在Uber(优步)的应用，使得读者可以对Presto更加了解
Uber正式开源其分布式跟踪系统Jaeger
mark's technic world
04-22 1843
ber在GitHub正式开源了分布式跟踪系统Jaeger，其灵感来源于Dapper和OpenZipkin，从2016年开始，该系统已经在Uber内部得到了广泛的应用，它可以用于微服务架构应用的监控，特性包括分布式上下文传播（Distributed context propagation）、分布式事务监控、根原因分析、服务依赖分析以及性能/延迟优化。该项目已经被云原生计算基金会（Cloud Nati...
使用 jvm-profiler 分析 spark 内存使用
偷闲小苑
10-27 2138
文章目录背景jvm-profiler分析总结 背景 在生产环境中，为了提高任务提交的响应速度，我们研发了类似 Spark Jobserver 的服务，各种类型的 spark 任务复用已经启动的 Spark Application，避免了 sparkContext 初始化冷启动的过程。 但是这些服务的内存是固定的，因此开放了用户自定义 Executor 的权限，不过也带来了很多问题，最典型的就是内存...
Yarn的JVM重用功能——uber
三丰的专栏
08-28 1179
在文章开头，我想先做几点说明： 本文的内容来自我对Yarn的相应功能的理解和实践。而我对该部分功能的理解主要来自对Hadoop的开发者之前相应言论的分析，并且我也将我的分析发给了Hadoop community， 并得到了Yarn的创始人兼架构师Arun Murthy的肯定回复。 本文中uber的配置部分，主要参考之前Hadoop开发者的言论。但是我当初看该言论的时候对一些细节有所疑惑，因此在...
操作系统真实的虚拟内存是什么样的(三. committed memory)
jlins_you的专栏
12-06 2148
1. commit limit与current commit charge 接上文，我们看到testlimit -r开关，只是预留虚拟内存，并没有实际进行提交(commit)。预留虚存并不存储数据或代码，但有时候应用需要这个预留（就像预订坐位一样），用以创建大块虚存，并且在需要的时候进行提交，以确保提交的内存在地址空间上是连续的。当进程提交一块虚存时，操作系统要确保存储在内存里的数据要么全部在内...
7.15 陇东学院云计算1班 马陆辉 20240715
07-15
练习题
090N03LS-VB QFN8(5X6）一款N-Channel沟道DFN8(5X6)的MOSFET晶体管参数介绍与应用说明
07-15
090N03LS-VB QFN8(5X6）；Package：DFN8(5X6)；Configuration：Single-N-Channel；VDS：30V；VGS：20（±V）；Vth：1.7V；RDS(ON)=9mΩ@VGS=4.5V；RDS(ON)=7mΩ@VGS=10V；ID：80A；Technology：Trench；
Hadoop和Spark多节点集群搭建：从入门到进阶0基础！！易懂！！
最新发布
07-15
详细介绍了如何从入门到进阶搭建和管理Hadoop和Spark的多节点集群。首先，文章解释了多节点集群的概念和优势，然后提供了硬件和软件环境的准备步骤，包括Java和SSH配置。接着，文章分步骤指导如何下载、安装和配置Hadoop和Spark，涵盖环境变量设置、配置文件编辑和集群启动等关键步骤。还包括如何监控和优化集群资源使用，并解决常见问题，如节点通信问题和任务失败。最后，文章提供了进一步学习和扩展的建议，帮助读者深入掌握大数据处理技术。希望通过这份指南，初学者能成功搭建高效的Hadoop和Spark集群，提升数据处理能力。Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和Spark多节点集群搭建Hadoop和
Spring Cloud Azure使用详解.pdf
07-15
Spring Cloud Azure使用详解
JVM Profiler
07-28
java -javaagent:target/jvm-profiler-0.0.5.jar=reporter=com.uber.profiling.reporters.ConsoleOutputReporter -cp target/jvm-profiler-0.0.5.jar com.uber.profiling.examples.HelloWorldApplication。此外，JVM...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值