关于double/float运算精度问题

最新推荐文章于 2022-05-23 11:38:10 发布
最新推荐文章于 2022-05-23 11:38:10 发布
阅读量482 收藏
点赞数
分类专栏： 开发
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/zlc147/article/details/79260067
版权

假设我用0.0056*1000，结果是5.60000000003。在大多数情况下，使用double和float计算的结果是准确的，但是在一些精度要求很高的系统中，这种问题是非常严重的。在《Effective Java》中提到一个原则，那就是float和double只能用来作科学计算或者是工程计算，但在商业计算中我们要用java.math.BigDecimal，通过使用BigDecimal类我们可以解决上述问题


zlc147
关注
专栏目录
为什么float和double运算会丢失精度？BigDecimal就一定靠谱？
2301_79835671的博客
04-18 808
学习技术是一条慢长而艰苦的道路，不能靠一时激情，也不是熬几天几夜就能学好的，必须养成平时努力学习的习惯。所以：贵在坚持！最后再分享的一些BATJ等大厂20、21年的面试题，把这些技术点整理成了视频和PDF（实际上比预期多花了不少精力），包含知识脉络 + 诸多细节，由于篇幅有限，上面只是以图片的形式给大家展示一部分。Mybatis面试专题MySQL面试专题并发编程面试专题《互联网大厂面试真题解析、进阶开发核心学习笔记、全套讲解视频、实战项目源码讲义》点击传送门即可获取！
float、double -- 精度丢失问题
最新发布
qq_37233070的博客
03-15 1194
float、double – 精度丢失问题在 C#、java 中很常见。
float计算精度
caihuihai的博客
05-05 357
        1、结果保留一位小数：         float a = (float) 15.3;     float b = (float) 18.6;     DecimalFormat df = new  DecimalFormat("##0.0");  //结果保留一位小数     if(a >= b){     System.out.println("a大"+df...
double,float精度问题
ilrxx的专栏
05-21 1988
Tom在一家汽车配件商店购买了一个价值$1.10的火花塞，但是他钱包中都是两美元一张的钞票。如果他用一张两美元的钞票支付这个火花塞，那么应该找给他多少零钱呢？  下面是一个试图解决上述问题的程序，它会打印出什么呢？  public class Change{ public static void main(String args[]){ System.out.println(2.00 - 1.10
double做数学运算丢失精度
wan_zaiyunduan的博客
01-18 375
测试代码： int x = 400; double xx = (double) x / 1000; System.out.println("xx=="+xx); double num = 51575.52; System.out.println("直接做减法，结果为: "+(num-xx)); BigDecimal num1 = BigDecimal.valueOf(num); BigDe
double数据类型与float数据类型 计算 精度问题
zuo_er_lyf的博客
07-11 312
double数据类型与float数据类型 计算 精度问题： public class ArithUtil { private static final int DEF_DIV_SCALE = 10; //String类型数据的+-*/ //加 public static double add(String d1, String d2) { BigDe...
关于float， double的精度问题
a130737的专栏
10-19 839
在计算机中， 我们的real number 是以二进制的方式存储的。 而且zhexie
解决java数值范围以及float与double精度丢失的问题
08-30
解决java数值范围以及float与double精度丢失的问题 Java中的数值范围和浮点数精度问题是许多开发者经常遇到的问题。下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、...
MySQL中的 double/float/numeric/decimal 的区别
weixin_42767581的博客
12-12 1338
MySQL中所有数值型数据，统称为Numeric Type 各字段类型中： DECIMAL和NUMERIC意义相等，用法相同，都是是fixed-point type(exact value) FLOAT/DOUBLE 类型，分别代表单精度浮点/双精度浮点类型。不管如何提高精度，也是floating-point type(approximate value)，用来进行高精度计算会出问题；...
【Java】解决double和float精度不准的问题
gossip博客
10-21 597
文章目录一、背景二、解决思路三、总结 一、背景 我们知道浮点数是无法在计算机中准确表示的，例如0.1在计算机中只是表示成了一个近似值，因此，浮点数的运算结果具有不可预知性。 在进行数字运算时，如果有double或float类型的浮点数参与计算，偶尔会出现计算不准确的情况。如以下示例代码： package ex; public class BigDeciTest { public static void main(String[] args){ System.out.
Double计算精度丢失（金融入门知识点）
Boush
11-09 7138
Double计算精度丢失（金融入门知识点） 一.double精度丢失 二.为什么double会精度丢失 三.BigDecimal错误的用法 四.BigDecimal正确的用法 Double计算精度丢失（金融入门知识点） 最近工作发现不少同事对于double精度丢失还不了解，对于一些新手java程序员，这倒是还可以理解，但是如果是已经工作了几年的老鸟，还不清楚，那就要抓紧补课了。废话不多说，进入今天的正题。 一.double精度丢失 public static void main(String[..
<2011 11 10> 编程中数据处理的问题（三）浮点数运算与精度误差
dizhuang5374的博客
11-05 248
上篇博文提到了两种误差，“转换误差”和“舍入误差”。其实前者完全是因为我们只习惯用十进制的科学计数法，而计算机暂时又只能使用二进制，所以必须转换进制实现人与机器的数据互动。有要是有种外星人天生习惯用二进制思考问题，我想就没这个问题啦。Ha, joking! 这篇博文进一步探讨一下，机器具体怎么在运算中产生“舍入误差”，以及这种误差对数值计算算法有什么样的影响。首先是机器...
Java中double类型精度丢失的问题_double类型数据加减操作精度丢失解决方法_BigDecimal取整
qq_43842093的博客
05-23 7854
BigDecimal在用double做入参的时候，二进制无法精确地表示十进制小数，编译器读到字符串"0.0000002"和“1.0000002”之后，必须把它转成8个字节的double值，也就是1.0000001999999998947288304407265968620777130126953125类似这种。 所以，运行的时候，实际传给BigDecimal构造函数的真正的数值是1.0000001999999998947288304407265968620777130126953125。 BigDecima
java中double类型数据加减操作精度丢失问题及解决方法
雄的博客
01-19 665
double类型数据加减操作精度丢失问题 今天在项目中用到double类型数据加减运算时，遇到了一个奇怪的问题，比如1+20.2+300.03，理论上结果应该是321.23，其实结果并不是这样。 public double add() { double number1 = 1; double number2 = 20.2; double number3 = 300.03; double result = number1 + number2 +
Mybaties @Select float 丢失精度
banana1006034246的博客
06-19 1272
Spring boot 整合 mybaties时，会出现一个奇怪的现象，假如 数据库里面有float型数据，比如 5.245，使用 @Select注解查询出来显示的是 5.0, 精度哪去了？ @Select("SELECT heat, cost FROM dm_warehouse_cost WHERE date=#{date} AND id=#{id}") WarehouseCost...
关于Double(float)浮点数
qwelkjzxc369的博客
03-03 441
关于Double(float)浮点数
关于java中float运算的精度问题
记录学习的点点滴滴
11-01 4181
今天在做一个float减法的时候出了点问题,找了半天,原来是关于flloat精度的问题问题描述如下:   public float getLeftMoney() throws Exception { // TODO Auto-generated method stub float m = new MoneyDaoImpl().CountAllMoney(); float c = n
float和double的精度问题
05-19
float和double都是浮点类型，但是它们的精度不同。float是32位的，而double是64位的。因此，double可以表示的数值范围和精度都比float更高。 具体来说，float的有效位数是6-7位，可以表示的数值范围是10^±38，而...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值