Hive-JDBC round(num, 0)取整问题记录

概述

ELK、EFK,或者是其他类似工具网站可谓是Java后端开发必备神器。借助于这些工具,我们可以得知:应用是否正常,接口响应速度,报错堆栈日志等。能够很大程度上提升开发效率,减少bug等。

问题

某天在生产环境ELK,看到记录如下报错信息:

ERROR c.x.c.d.b.s.i.TableWarnServiceImpl - executeTableWarnJob error: 
java.lang.NumberFormatException: For input string: "57.97888386123681"
	at java.lang.NumberFormatException.forInputString(NumberFormatException.java:65)
	at java.lang.Long.parseLong(Long.java:589)
	at java.lang.Long.parseLong(Long.java:631)
	at com.johnny.cloud.datasetsubscript.business.service.impl.TableWarnServiceImpl.checkItem(TableWarnServiceImpl.java:180)

对应的报错代码片段:

private boolean checkItem(TableWarnParams params, Object result) {
    boolean bl = false;
    // 设置的阈值
    Long threshold = params.getCount();
    Long count = Long.parseLong(result.toString());
    switch (params.getWhere()) {
        case ">":
            if (count > threshold) {
                bl = true;
            }
        default:
            break;
    }
    return bl;
}

排查

在讲述问题排查过程和结论前,大致讲述一下这个功能的使用场景。

作为一款通用型大数据平台的数据监控模块,支持若干关系型数据库,如MySQL,Postgre SQL,也支持对接Impala、ClickHouse等OLAP数据源。选择数据源后,提供一个SQL编辑窗口,支持用户提交的各种类型的SQL。随后提供一个SQL计算结果期望的告警阈值设置下拉选项框。

举例来说,如果用户提交的SQL计算执行结果是1,【大于】设置的阈值【0】,则触发告警(短信,电话,邮件,企微等)。这在企业大数据平台日常运营中很具备意义,满足阈值设置条件,则说明某个数据源不正常,需要加以关注与处理。

最后,用户提交的SQL是通过cron表达式来定时调度执行。

回到报错的方法,该方法有2个入参:

  1. TableWarnParams是一个POJO实体类,count表示设置的对比阈值,where表示设置的对比条件。
  2. Object类型的result表示用户设置的SQL的执行结果。

通过上面的报错日志,可以得知是哪一个用户提交的SQL报错:

select round(afpi_loanlevel_total_cnt_his24mth_miss * 100, 0) as afpi_miss_58
from view_monitor_miss_rate 
order by list_day desc 
limit 1

将这个SQL拿到类似于ad hoc这种即时查询可视化平台查询得到的结果:
在这里插入图片描述
考虑到是线上应用,故而考虑将SQL取整,即使用impala提供的round(num, 0)函数,这个函数在可视化查询平台上面的执行结果如下:
在这里插入图片描述
但是,ELK仍然记录如下日志:

ERROR c.x.c.d.b.s.i.TableWarnServiceImpl - executeTableWarnJob error: 
java.lang.NumberFormatException: For input string: "58.0"
	at java.lang.NumberFormatException.forInputString(NumberFormatException.java:65)
	at java.lang.Long.parseLong(Long.java:589)
	at java.lang.Long.parseLong(Long.java:631)
	at com.johnny.cloud.datasetsubscript.business.service.impl.TableWarnServiceImpl.checkItem(TableWarnServiceImpl.java:180)

于是只好在本地测试环境尝试重现这个问题。

将报错SQL简化一下,替换到postman的requestBody里(省略其他非相关的json字段):

{
	"sqlTmp": "select 57.97888386123681 as a, 11 as b;"
}

在这里插入图片描述
可见查询得到的是一个BigDecimal类型的数据。

使用round(num, 0)函数
在这里插入图片描述
本地无法复现问题。

没有办法,最后的解决方法:

Long count;
// 兼容round(num, 0)之后依然存在小数点的问题
if (result.toString().contains(".")) {
    count = Math.round(Double.parseDouble(result.toString()));
} else {
    count = Long.parseLong(result.toString());
}

附使用的hive-jdbc版本号:

<dependency>
    <groupId>org.apache.hive</groupId>
    <artifactId>hive-jdbc</artifactId>
    <version>1.1.0-cdh5.7.1</version>
</dependency>
<dependency>
    <groupId>org.apache.hadoop</groupId>
    <artifactId>hadoop-common</artifactId>
    <version>2.6.0-cdh5.7.1</version>
</dependency>

参考NumberFormatException

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 打赏
    打赏
  • 0
    评论
Hive-JDBC Uber Jar 是一个包含了所有依赖项的单一 JAR 文件,使得使用 Hive JDBC 连接数据库更加方便。为了下载 hive-jdbc-uber-jar,您可以按照以下步骤进行操作: 1. 打开您的网络浏览器并访问 Apache Hive 的官方网站(https://hive.apache.org/)。 2. 在页面的顶部菜单栏中,您会找到一个"Downloads"(下载)的选项。单击这个选项。 3. 在下载页面上,您可以看到不同的 Hive 版本和相关的下载链接。根据您的需求选择适合的版本。一般建议选择最新版本。 4. 找到并单击下载链接,以启动 hive-jdbc-uber-jar 文件的下载。可以选择一个合适的下载镜像,点击相关链接即可开始下载。 5. 下载完成后,您可以在您指定的下载文件夹中找到 hive-jdbc-uber-jar 文件。可以通过文件管理器打开文件夹并查看文件。 在您下载了 hive-jdbc-uber-jar 文件后,您可以将其添加到您的项目中,并使用 HiveJDBC API 连接到 Hive 数据库。您可以在项目的构建路径中添加该 JAR 文件,并在代码中引入相关的类和方法。确保在代码中正确配置 JDBC 连接参数,如 Hive 服务器的 URL、用户名和密码等。 总结起来,您可以通过在 Apache Hive 官方网站下载页面上选择适当的 Hive 版本并点击相关的下载链接,从中直接下载 hive-jdbc-uber-jar 文件。这个 JAR 文件是使用 Hive JDBC 连接到 Hive 数据库时所需的所有依赖项的集合。

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

johnny233

你的鼓励将是我创作的最大动力

¥1 ¥2 ¥4 ¥6 ¥10 ¥20
扫码支付:¥1
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值