查看详细_0587-6.1.0-CM 管理界面中Impala 的查看SQL查询详细异常问题分析

作者:唐辉

1.文档编写目的

本篇文章主要介绍在Cloudera Manager 界面中Impala 查询详细界面显示无法检索此查询的详细信息问题的原因和解决办法

  • 内容概述

1.文档说明

2.问题描述

3.问题分析

4.解决办法

  • 测试环境

1.CM和CDH版本为CDH 6.1.0

2.操作系统版本为RedHat7.2

2.问题描述

在Cloudera Manager (以下简称CM)的管理界面有提供快速查看到Impala SQL 执行的界面,在CM主页面, 点击 群集>Impala个查询 或者 选择Impala>查询 都可以快速到该页面。如下

99cfca488796810e67a25fd86d16ecbc.png

点击查询详细信息可以查看到明细,包括查询计划和详细信息等

696e4e1b2484df32e86fe27b87db592e.png
744c65607eedbdddb59856d698824949.png

但是查看时间更久之前的SQL明细显示异常如下:

4a45048a4df93c68bc48c7db83b9d715.png

3.问题分析

在分析上述问题之前,我们需要知道CM上显示的Impala的查询明细的数据来源,默认是存放在/var/lib/cloudera-service-monitor/impala目录下, firehose_impala_storage_bytes默认存储大小为1GB。在CM 界面点击Clouera Manager Service >实例>Service Monitor >配置>搜索 Impala

8f13cc3e4627f0f253b574aaa4fd3b39.png
227660ed0c626f5f21b2137a94df7e04.png

work_details 目录存的是查询明细,如果该目录没有数据,那么Impala 查看明细就会出现上述异常信息,目录下的该数据是加密的,这里不具体查看。

work_summary 目录存的是汇总,如果该目录没有数据,那么Impala 查询中将看不到数据,因为该目录下的数据是加密的,这里不具体查看。

为了验证上述说明,验证如下,移走work_summary 目录

mv work_summary work_summarybak
316943aa96ad6993c61cd045e27685ba.png

重启Service Monitor后查看,发现近30天的数据都没有了。

2064a8332cfb083780d341759ee6b1f3.png
a3ee953e85994692e6749bfef1e372b2.png

然后将work_summary 目录还原,用来恢复数据

rm -rf work_summarymv work_summarybak work_summary
2d69d17b36e3d2e8b3b2c3ab04c47ef8.png

重启Service Monitor后再查看,Impala查询列表数据恢复

2c2d59f20a959ccf6aabd9e782b1027a.png

接下来重现Impala 查询详细界面显示无法检索此查询的详细信息异常

mv work_details work_ detailsbak
1c4fda5c8bdb945e54fc0a169a2d7da8.png

重启Service Monitor后再再点击查询详细信息

411adae2b0b0eb964e4badc91f434f78.png

上述异常重现,到这里基本可以验证我们上面的说法。

e051b63f4c7c1e0dffd61ca079bde478.png
rm -rf work_detailsmv work_ detailsbak work_ details
d5b2859d96611a05d03424f0d959b024.png

再重现还原目录用来恢复数据,重启Service Monitor后再点击查询详细信息

ab42d6b72aa0a3992a43677d147fb066.png

然后验证firehose_impala_storage_bytes默认存储大小为1GB的问题,将/var/lib/cloudera-service-monitor/impala/work_details/partitions目录下的profiles_2019-02-24T18:25:26.774Z 目录大小占用大于1GB

f3a9ffe7233b7286952341051710d51a.png

然后重启Service Monitor后,执行SQL,再去查看明细

SELECT * FROM default.wk_test_client LIMIT 5;DESCRIBE wk_test_client;
0bff0595507cc288d0168e00dc779467.png

发现刚刚执行的SQL的是明细是可以正常查看的

ddf2d8ea1e15d4e0e0db6d9a2d94821b.png
c349514fdb9d56aee988889179c9afcc.png

而之前的点击查看明细已经没有反应,鼠标已经无法选中查看查询详细信息

e8beaea1e20ab324beaa0917edb5b848.png

再去查看该目录下已经重新生成了一个目录,发现之前的用于存放SQL明细的数据的 profiles_2019-02-24T18:25:26.774Z 目录除了拷贝过来占用空间的包,已经没有其他数据了,只有profiles_2019-03-28T09:20:33.317Z 目录下有SQL明细的数据

e19041d3bff892045613218415b30ccb.png

4.解决方法

根据上面的分析,我们已经确认在CM界面Impala的查询明细的数据来源默认是存放在/var/lib/cloudera-service-monitor/impala目录下,而无法查询明细是由于数据不存在造成的,所以如果想保存更久的数据,那么将firehose_impala_storage_bytes 这个参数值默认1GB调更大一些,并且不要随意删除该目录下的数据。

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值