Jmeter中使用beanshell进行四则运算，如何避免出现浮点数精度丢失

最新推荐文章于 2024-05-11 07:35:19 发布

亲民包超亲民

最新推荐文章于 2024-05-11 07:35:19 发布

阅读量2.3k

点赞数 4

分类专栏： JMeter

本文链接：https://blog.csdn.net/qq_39419723/article/details/113882770

版权

JMeter 专栏收录该内容

9 篇文章 2 订阅

订阅专栏

在Java脚本中，当进行浮点数运算时，由于精度误差导致3*0.3的结果不等于0.9，表现为0.89999999。为解决这个问题，可以采用将整数先乘以所需倍数，然后除以相同倍数的方式，以减少精度损失。具体做法是将整数乘以3，再除以10，从而确保计算结果正确。

摘要由CSDN通过智能技术生成

之前编写脚本的时候，需要使用随机数和浮点数进行相乘，于是设计脚本如下：

vars.put("rbNumb","${__Random(1,9,)}");
rbNumb = vars.get("rbNumb");
int rbNumb1 = Integer.parseInt(rbNumb);
rbValue = rbNumb1 * 0.3;
vars.put("rbValue",rbValue.toString());

但是调试的时候，发现3*0.3的结果不是0.9，而是0.89999999
在这里插入图片描述
原因是浮点数相加存在精度误差，参考博客：https://www.cnblogs.com/fisherss/p/11049500.html
所以遇到需要浮点数的情况时，先用整数进行运算，再除以小数位数，该问题即可解决：

vars.put("rbNumb","${__Random(1,9,)}");
rbNumb = vars.get("rbNumb");
int rbNumb1 = Integer.parseInt(rbNumb);
Float rbValueFloat = 0.0;
rbValueFloat = rbNumb1 * 3;
rbValue = rbValueFloat / 10;
vars.put("rbValue",rbValue.toString());