java中的Double为什么不能精确处理数据

最新推荐文章于 2024-04-14 12:59:23 发布
最新推荐文章于 2024-04-14 12:59:23 发布
阅读量202 收藏
点赞数
文章标签： Java 金融
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/pgyang/article/details/83360696
版权
如果用double类型数据来计算浮点数的化，会损失精度，如用System.out.println(1.0d-0.9d)将向控制台输出0.09999999999999998,而不是0.1,出现这种问题主要原始是因为浮点数数值采用二进制表示，在二进制系统之无法精确表示1/10，就像十进制无法表示1/3一样，这样就产生了误差，如果想尽量避免误差，就应用BigDecimal类来运算，尤其是在金融领域.

strictfp修饰符来标记方法或者类，只能进行严格的浮点运算，却不能避免上面的错误
pgyang
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
详解java中float与double的区别
08-26
这里有一个小知识：既然 float 和 double 型用来表示带有小数点的数，那为什么我们不称 它们为“小数”或者“实数”，要叫浮点数呢？因为这些数都以科学计数法的形式存储。当一个数如 50.534，转换成科学计数法的...
android double精度_精度损失指北：1 0.9 为什么不等于 0.1
weixin_39854923的博客
11-30 421
考考你，System.out.println(1.0f - 0.9f)结果是什么？3...2...1...揭晓答案：0.100000024如果好奇为什么答案不是0.1，就往下看⬇️计算机科学中是怎么表示浮点数的？我们都知道，在数学中，采用科学计数法来近似表示一个极大或极小且位数较多的数。科学计数法的表示形如：a x 10^n. 其中1≦ |a| ≦ 10，a 称为有效数字从数学世界的科学...
走进浮点数：为什么1-0.9不等于0.1？
cun的博客
11-22 3772
1-0.9为何等于0.100000024？？
这道题你是如何解错的？你一定想不到。
weixin_46009468的博客
03-04 339
这道题你是如何解错的？ 一看，这道题也太简单了吧？ 1.0f - 0.9f 的结果为 0.1f，0.9f - 0.8f 的结果为 0.1f，那自然 a == b 啊。 但实际的结果竟然不是这样的。 其实结果是这样的，意不意外 不相信的话我们来运行一下看看结果： 这是因为 Java 语言支持两种基本的浮点类型：float 和 double ，以及与它们对应的包装类 Float 和 Double ...
DIY主题讨论9：浮点数
帷幄庸者的博客
05-31 348
#【第9次讨论主题：浮点数】 1）包装类Float中为什么有两个常量来表示最小值：MIN_VALUE和MIN_NORMAL？ MIN_NORMAL = 2^（-126）： A constant holding the smallest positive nonzero value of type 最小正非零值，对应于IEEE754浮点数标准 MIN_VALUE = 2^（-149）： A cons...
java对double数组排序示例分享
09-04
在Java编程语言中，对数据结构进行操作是常见的任务，其中数组是最基本的数据结构之一。在本示例中，我们关注的是如何对包含`double`类型的数组进行排序。`double`数组通常用于存储浮点数值，例如在科学计算、统计...
Java中数据类型和MYSQL中数据类型的对比
08-18
Java 和 MySQL 数据类型之间的对比是理解数据库操作和应用程序开发中数据处理的关键。这两种语言的数据类型在功能和使用上都有所不同，尽管它们都用于存储和处理数据，但各自有着特定的适用场景和特点。 首先，Java...
test2_JavaDouble类型比较大小_java编程_
10-04
标题"test2_JavaDouble类型比较大小_java编程_"提示我们关注的是Java中`Double`类型的比较操作。通常，我们可能会像处理整数那样直接使用`>`或`来比较两个`Double`值，例如`double a = 0.1; double b = 0.2; if (a +...
double类型，精确的数据运算
08-24
描述中提到，“可自己确定精确位数”，这意味着这个类包可能允许用户自定义数值的精度，比如需要多少位小数，或者能处理多大的数值范围。这样的灵活性使得用户可以根据实际需求调整计算精度，避免因过度精确而导致的...
Java中浮点数运算不准确的原因及解决方案
weixin_44462294的博客
11-18 4150
问题 java中执行以下代码预期结果肯定是0.1 System.out.println(1.0 - 0.9); 但事实上运行结果为 原因 Java中的小数使用double和float表示，小数属于浮点型（默认为double）。 对于float型的值,则要在数字后加f或F，如12.3F，它在机器中占32位，4个字节来存储，表示精度较低。double是64位。 那么一个小数在Java中是如何存储的...
从1-0.9不等于0.1说起——计算机中的浮点数
KeeponGoing1的博客
10-27 1869
初学Java时，在关于浮点数的各种资料中都会看到类似的说明：“浮点数在计算时极易产生微小的误差”，“在要求绝对精确的业务场景下，禁止使用浮点数计算”等等。 可以做一个最简单的验证： System.out.println((1-0.9f)==0.1f); 控制台输出： false 本文主要说明两个问题： 1、为什么浮点数在计算中不精确？ 2、浮点数的优缺点及应用思路 一、为什么浮点数在计算中不...
java中double类型为什么会丢失精度？（从我们熟悉的10进制去看计算机的2进制精度）
qq_19952029的博客
06-20 2656
第二篇：java中double类型为什么会丢失精度？（从我们熟悉的10进制去看计算机的2进制精度） 前言 相信大家在学习java的基本数据类型的时候都听过float和double类型都存在精度损失问题，具体什么原因很多同学都没有去进一步深究，这一篇就这个问题做一下讨论。 一、从10进制去看基本数据类型double精度丢失问题 0.012；第一个小数位为什么是0？因为0=0.012*10=0.12得不到正整数,第一个小数位能表示的最小数为1/10，最大数为9*1/10 0.012；第二个小数位为什么.
Double为什么会丢失精度？
热门推荐
u011277123的博客
07-13 3万+
斯蒂芬朱cPlusPlus2019-07-12 09:20:00 前言：在工作中，谈到有小数点的加减乘除都会想到用BigDecimal来解决，但是有很多人对于double或者float为啥会丢失精度一脸茫然。还有BigDecimal是怎么解决的？话不多说，我们开始。 1.浮点数是啥？ 浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。 在java中，double是双精度，64位，...
精确运算为什么不能用double?
最新发布
风止的博客
04-14 307
高于大小的比特会被自动删除，但是在删除的过程中还需要遵循 IEEE-754 规范，这就是我们理解的删除不应该会让数变小吗？为什么计算机的计算会变大?如果最后一位是1左移一位继续,循环此过程，而不像int是1也给你删除，这就是变大的原因了。所以对于需要精确计算的一定要使用bigDecimal，比如设计钱的问题。主要原因:就是因为double会导致数据不准确，不准确的原因如下所示。
double浮点数运算为啥会丢失精度？
chongchu7503的博客
06-21 3272
前言：在工作中，谈到有小数点的加减乘除都会想到用BigDecimal来解决，但是有很多人对于double或者float为啥会丢失精度一脸茫然。还有BigDecimal是怎么解决的？话不多说，我们开始。 1.浮点数是啥？ 浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。在jav...
double类型不能进行精确计算的问题
Scluis的博客
12-16 1803
前言 最近在维护一个wpf项目，甲方今天突然发现了一个bug，如下： 也就是说，用户输入了一个有两位小数的数字，但是我们的校验发生了错误。 问题 项目中原始代码的校验方法如下： 看了代码后感觉写的还是挺聪明的，代码中将用户输入小数的100倍取整，并和这个小数的100倍进行比较，若小于则说明用户输入了两位以上的小数，而问题就出在了他使用的是double进行计算，double作为双精度浮点数，本来就是由若干位的底数和指数的形式表示的，它本来就是不精确的，只能用它进行存储，不能用它进行计算，这里计算结果如下：
对 double 不能算出精确值问题的思考
bingjing12345的专栏
08-25 4672
我知道 double型数据在内存的表示遵循IEEE标准，对于0.1  ，1.1,2.1等等 很多数，不能被精确的表示为double数据 只能被表示为最接近它的double值 先来看一段程序 double d1 = 0.9; double d2 = 0.1; double d3 = 1.1; System.out.println(d1); System.out.println(d2
java中解决double计算精度不准确问题
DreamTL的博客
12-13 4880
现象： 因需要对比投资成功前与投资成功后前后的剩余金额的断言，在断言的时候发现针对double类型计算时会出现精度计算问题： 例如使用代码如下： 如上图会因精度导致断言失败。 最后使用 DecimalFormat 类将数字进行格式化，代码如下： DecimalFormat 类主要靠 # 和 0 两种占位符号来指定数字长度。0 表示如果位数不足则以
BigDecimal详解：Java浮点数精确处理与JFC/Swing组件介绍
浮点数的精确处理是Java编程中一个重要的议题，尤其是在金融、科学计算等领域，由于double类型存在精度问题，使用BigDecimal类能提供更精确的结果。BigDecimal是Java标准库中的一个类，专门设计用于处理任意精度的十...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值