测试开发技能：java语言之浮点数运算

最新推荐文章于 2024-08-22 10:28:59 发布

锅锅聊软测

最新推荐文章于 2024-08-22 10:28:59 发布

阅读量859

点赞数

文章标签：单元测试压力测试测试工具开发语言服务器

本文链接：https://blog.csdn.net/weixin_68548441/article/details/125658559

版权

本文探讨了Java中浮点数运算的特点，包括其不精确性、与整数运算的区别，如位运算和移位运算的不可行。还介绍了浮点数在内存中的表示以及整型到浮点型的自动提升。当浮点数除以0时，会返回NaN、Infinity或-Infinity。此外，还讨论了如何将浮点数转换为整数。

摘要由CSDN通过智能技术生成

浮点数运算和整数运算相比，只能进行加减乘除这些数值计算，不能做位运算和移位运算。浮点数有个非常重大的特点，就是无法准确表示。

可以看一个例子

public class Main {


public static void main(String[] args) {
double x = 1.0 / 10;
double y = 1 - 9.0 / 10;
// 观察x和y是否相等:
System.out.println(x);
System.out.println(y);
}
}

我们看下最后的结果

在判断的时候，我们可以做一些取舍，比如在一个合理的范围内可以认为二者相等。

public class Main {


    public static void main(String[] args) {
        double x = 1.0 / 10;
        double y = 1 - 9.0 / 10;
        // 观察x和y是否相等:
        System.out.println(x);
        System.out.println(y);
        double r = Math.abs(x - y);
        // 再判断绝对值是否足够小:
        if (r < 0.00001) {
            System.out.println("可以认为相等");// 可以认为相等
        } else {
            System.out.println("不相等");// 不相等