关于double/float运算精度问题

最新推荐文章于 2024-08-05 23:40:36 发布
最新推荐文章于 2024-08-05 23:40:36 发布
阅读量486 收藏
点赞数
分类专栏： 开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zlc147/article/details/79260067
版权

假设我用0.0056*1000，结果是5.60000000003。在大多数情况下，使用double和float计算的结果是准确的，但是在一些精度要求很高的系统中，这种问题是非常严重的。在《Effective Java》中提到一个原则，那就是float和double只能用来作科学计算或者是工程计算，但在商业计算中我们要用java.math.BigDecimal，通过使用BigDecimal类我们可以解决上述问题


zlc147
关注
专栏目录
float计算精度
caihuihai的博客
05-05 366
        1、结果保留一位小数：         float a = (float) 15.3;     float b = (float) 18.6;     DecimalFormat df = new  DecimalFormat("##0.0");  //结果保留一位小数     if(a >= b){     System.out.println("a大"+df...
double,float精度问题
ilrxx的专栏
05-21 2003
Tom在一家汽车配件商店购买了一个价值$1.10的火花塞，但是他钱包中都是两美元一张的钞票。如果他用一张两美元的钞票支付这个火花塞，那么应该找给他多少零钱呢？  下面是一个试图解决上述问题的程序，它会打印出什么呢？  public class Change{ public static void main(String args[]){ System.out.println(2.00 - 1.10
double做数学运算丢失精度
wan_zaiyunduan的博客
01-18 391
测试代码： int x = 400; double xx = (double) x / 1000; System.out.println("xx=="+xx); double num = 51575.52; System.out.println("直接做减法，结果为: "+(num-xx)); BigDecimal num1 = BigDecimal.valueOf(num); BigDe
double数据类型与float数据类型 计算 精度问题
zuo_er_lyf的博客
07-11 326
double数据类型与float数据类型 计算 精度问题： public class ArithUtil { private static final int DEF_DIV_SCALE = 10; //String类型数据的+-*/ //加 public static double add(String d1, String d2) { BigDe...
关于float， double的精度问题
a130737的专栏
10-19 850
在计算机中， 我们的real number 是以二进制的方式存储的。 而且zhexie
为什么float和double运算会丢失精度？BigDecimal就一定靠谱？
2301_79835671的博客
04-18 854
学习技术是一条慢长而艰苦的道路，不能靠一时激情，也不是熬几天几夜就能学好的，必须养成平时努力学习的习惯。所以：贵在坚持！最后再分享的一些BATJ等大厂20、21年的面试题，把这些技术点整理成了视频和PDF（实际上比预期多花了不少精力），包含知识脉络 + 诸多细节，由于篇幅有限，上面只是以图片的形式给大家展示一部分。Mybatis面试专题MySQL面试专题并发编程面试专题《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！
解决java数值范围以及float与double精度丢失的问题
08-30
解决java数值范围以及float与double精度丢失的问题 Java中的数值范围和浮点数精度问题是许多开发者经常遇到的问题。下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、...
float、double -- 精度丢失问题
qq_37233070的博客
03-15 1276
float、double – 精度丢失问题在 C#、java 中很常见。
MySQL中的 double/float/numeric/decimal 的区别
weixin_42767581的博客
12-12 1372
MySQL中所有数值型数据，统称为Numeric Type 各字段类型中： DECIMAL和NUMERIC意义相等，用法相同，都是是fixed-point type(exact value) FLOAT/DOUBLE 类型，分别代表单精度浮点/双精度浮点类型。不管如何提高精度，也是floating-point type(approximate value)，用来进行高精度计算会出问题；...
【Java】解决double和float精度不准的问题
gossip博客
10-21 616
文章目录一、背景二、解决思路三、总结 一、背景 我们知道浮点数是无法在计算机中准确表示的，例如0.1在计算机中只是表示成了一个近似值，因此，浮点数的运算结果具有不可预知性。 在进行数字运算时，如果有double或float类型的浮点数参与计算，偶尔会出现计算不准确的情况。如以下示例代码： package ex; public class BigDeciTest { public static void main(String[] args){ System.out.
Double计算精度丢失（金融入门知识点）
Boush
11-09 7197
Double计算精度丢失（金融入门知识点） 一.double精度丢失 二.为什么double会精度丢失 三.BigDecimal错误的用法 四.BigDecimal正确的用法 Double计算精度丢失（金融入门知识点） 最近工作发现不少同事对于double精度丢失还不了解，对于一些新手java程序员，这倒是还可以理解，但是如果是已经工作了几年的老鸟，还不清楚，那就要抓紧补课了。废话不多说，进入今天的正题。 一.double精度丢失 public static void main(String[..
double精度丢失问题
查拉图斯特拉talk的博客
02-09 1172
在Java中，使用double类型时可能会遇到精度丢失的问题。这是由于double类型是一种浮点数类型，在表示某些小数时可能会存在精度损失。这种情况通常是由于浮点数的二进制表示法无法准确地表示某些十进制小数，导致精度丢失。为了避免这种问题，可以考虑使用BigDecimal类来处理精确的十进制数值运算，因为BigDecimal类可以提供更高的精度和控制。另外，尽量避免直接比较两个double类型的值是否相等，而是考虑使用误差范围或者BigDecimal的compareTo方法来进行比较操作。
<2011 11 10> 编程中数据处理的问题（三）浮点数运算与精度误差
dizhuang5374的博客
11-05 252
上篇博文提到了两种误差，“转换误差”和“舍入误差”。其实前者完全是因为我们只习惯用十进制的科学计数法，而计算机暂时又只能使用二进制，所以必须转换进制实现人与机器的数据互动。有要是有种外星人天生习惯用二进制思考问题，我想就没这个问题啦。Ha, joking! 这篇博文进一步探讨一下，机器具体怎么在运算中产生“舍入误差”，以及这种误差对数值计算算法有什么样的影响。首先是机器...
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
qq_43842093的博客
05-23 7910
BigDecimal在用double做入参的时候，二进制无法精确地表示十进制小数，编译器读到字符串"0.0000002"和“1.0000002”之后，必须把它转成8个字节的double值，也就是1.0000001999999998947288304407265968620777130126953125类似这种。 所以，运行的时候，实际传给BigDecimal构造函数的真正的数值是1.0000001999999998947288304407265968620777130126953125。 BigDecima
double类型 精度丢失的问题
最新发布
A_aspectJ的博客
08-05 2543
因为计算机只能识别0和1，即二进制，无论哪种编程语言，都需要翻译成二进制才能被计算机识别。这种舍入误差的主要原因是浮点数值采用二进制系统表示， 而在二进制系统中无法精确地表示分数 1/10。这就好像十进制无法精确地表示分数 1/3—样。
java中double类型数据加减操作精度丢失问题及解决方法
雄的博客
01-19 686
double类型数据加减操作精度丢失问题 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = number1 + number2 +
Mybaties @Select float 丢失精度
banana1006034246的博客
06-19 1289
Spring boot 整合 mybaties时，会出现一个奇怪的现象，假如 数据库里面有float型数据，比如 5.245，使用 @Select注解查询出来显示的是 5.0, 精度哪去了？ @Select("SELECT heat, cost FROM dm_warehouse_cost WHERE date=#{date} AND id=#{id}") WarehouseCost...
关于Double(float)浮点数
qwelkjzxc369的博客
03-03 451
关于Double(float)浮点数
float和double的精度问题
05-19
float和double都是浮点类型，但是它们的精度不同。float是32位的，而double是64位的。因此，double可以表示的数值范围和精度都比float更高。 具体来说，float的有效位数是6-7位，可以表示的数值范围是10^±38，而...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值