java中的double和float数据精度

最新推荐文章于 2024-06-24 03:31:40 发布
最新推荐文章于 2024-06-24 03:31:40 发布
阅读量686 收藏 1
点赞数 1
分类专栏： java 文章标签： java 二进制 计算机
版权声明：本文为博主原创文章，遵循 CC 4.0 BY 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/S_body/article/details/78366951
版权

今天遇到一个问题，就是java中double类型的精度问题



本来应该是尾数只有一个精度的，结果变成这样，GOOGLE了一下，解释说是计算机本身、二进制来表示double类型会缺失一定的精度--

https://www.iovi.com/post/2014-07-07-talk-about-double-in-java.html

解决方法：

第一种，利用string.format方法



第二种方法是用BigDecimal方法


www.渣男.cn
关注
  • 1
    点赞
  • 踩
  • 1
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Java 浮点数 float和double类型的表示范围和精度
张小琦的博客专栏
11-15 8万+
隐约记得，浮点数判断大小好像有陷阱，因为底层的二进制数不能精确表示所有的小数。有事后会产生让人觉得莫名其妙的事情。
【Java】解决double和float精度不准的问题
gossip博客
10-21 591
文章目录一、背景二、解决思路三、总结 一、背景 我们知道浮点数是无法在计算机中准确表示的，例如0.1在计算机中只是表示成了一个近似值，因此，浮点数的运算结果具有不可预知性。 在进行数字运算时，如果有double或float类型的浮点数参与计算，偶尔会出现计算不准确的情况。如以下示例代码： package ex; public class BigDeciTest { public static void main(String[] args){ System.out.
Java中float和double的精度
weixin_34268579的博客
09-17 120
比较基本类型double和float和某一个数是否相等的时候，不要用==或>=或<=，因为double和float都是有精度问题的，计算机只能保存一定位数的小数，这就会存在精度问题。 下面我们看一下java中float和double能够比较到小数后几位： 代码实现： public class Main { public static void main(Str...
java double float 精度_精确计算java中float和double的精度
weixin_33789616的博客
02-16 271
Java中double类型的格式是遵循IEEE 754标准的。尽管数学意义上的小数是连续的，但double仅仅能表示其中的一些离散点，把这些离散点组成的集合记为S，S的大小还是有限的。如果要保存的小数P刚好在集合S内，那么double类型就能精确的表示P；否则double类型只能从集合S中找一个与P最近的离散点P‘代替P。以上表述对于float也成立。IEEE 754中float和double的表...
java浮点数精度问题
最新发布
大家一起研究研究
06-24 982
由于浮点数不能在计算机中精确的表示，所以可能导致一些细微的问题。一般场景用double就能满足， 如果需要精确计算（比如涉及到金融行业的累计算），可用BigDecimal，还可以 用整型来表示小数，就是将小数乘以10的倍数变为整数再处理。
精确计算java中float和double的精度
diandingyin9417的博客
07-06 122
[本文相关的代码放在github上。地址为：https://github.com/VigourJiang/StructuredFloat] Java中double类型的格式基本遵循IEEE 754标准。虽然数学意义上的小数是连续的。但double只能表示当中的一些离散点。把这些离散点组成的集合记为S。S的大小还是有限的。假设要保存的小数P刚好在集合S内，那么double类型...
java double float 精度_java的double和float精度问题
weixin_36473398的博客
02-12 105
在IEEE754标准中进行了单精度浮点数(float)和双精度数浮点数(double)的定义。float有32bit，double有64bit。它们的构成包括符号位、指数位和尾数位。这些位的构成如下：种类-------符号位-------------指数位----------------尾数位----float---第31位(占1bit)---第30-23位(占8bit)----第22-0位(占2...
详解java中float与double的区别
08-26
float 和 double 是 Java 中两种基本数据类型，都是用来表示实数的，但是它们有很大的区别。float 是单精度类型，精度是 8 位有效数字，取值范围是 10 的 -38 次方到 10 的 38 次方，float 占用 4 个字节的存储空间...
解决java数值范围以及float与double精度丢失的问题
08-30
下面我们将详细探讨Java中的数值范围、float和double类型的精度问题，并且提供解决方案。 一、Java中的数值范围 Java中的基本数据类型有多种，包括整数类型（int、long）、浮点数类型（float、double）。每种类型...
java中double转化为BigDecimal精度缺失的实例
08-31
在Java编程语言中，数值类型如`double`和`float`虽然方便进行浮点数运算，但它们在处理精度上存在一定的局限性。这主要是由于它们是基于二进制浮点数表示法，而非十进制。在进行计算时，某些十进制小数无法精确地...
java float和double的精度_精确计算java中float和double的精度
05-19
在Java中，float和double都是用二进制浮点数表示的，它们的精度是有限的。因为二进制浮点数无法精确表示某些十进制数，如0.1，所以在进行精确计算时需要特别注意。 在进行浮点数计算时，可以使用BigDecimal类来实现...
Java基础系列：数据精度float,double,BigDecimal
天然玩家的博客
05-14 4488
数据精度在金融相关（与钱相关）的领域应用非常广泛，通常使用的浮点型数据类型float和double都有精度限制，在处理更多位数取舍（超出float和double精度范围）以及保留小数点后面的几位小数需要结束BigDecimal处理，在四舍五入的功能上，BigDecimal提供了7种取舍模式，本文配以取舍案例讲解。
java float的精度_java中的float和double的精度问题
weixin_26970501的博客
02-12 1589
此文解释了为何float的范围比int大(同样4字节)，但有些int是float无法正确表达的(精度丢失)java中的float和double的精度问题1、背景知识在java中没有细讲，只是讲了float占32位(bit)，double占 64位。对于计算机来说，用位数表示是合适的。但有人喜欢用字节(byte)表示。一个字节占8位。1 byte = 8 bit.所以float占4个字节，doubl...
java double 精度范围_float 和 double 范围和精度
weixin_31861647的博客
02-23 3425
做java已经有段时间了，可是遇到什么范围啊，精度啊就迷糊，虽然自己经常使用，自己的数据也从未超过int型的范围，但还是多了解下，用着才放心嘛……1. 范围float和double的范围是由指数的位数来决定的。float的指数位有8位，而double的指数位有11位，分布如下：float：1bit(符号位) 8bits(指数位) 23bits(尾数位)double：1bit(符号位) 11bits...
Java float和double类型的精度和进制
qq_44505027的博客
05-29 1362
Java float和double类型的精度和进制
java数值范围以及float与double精度丢失问题
热门推荐
不忘初心的博客
05-19 2万+
1.java中int,float,long,double取值范围 public class TestOutOfBound { public static void main(String[] args) { System.out.println(Integer.MAX_VALUE-(-Integer.MAX_VALUE)); //内存溢出 System.out.println(Integer.
java中float与double精度问题
u012164021的博客
01-06 601
一、float与double介绍 我们使用数据的时候都是使用十进制的方式进行运算，然而在计算机中数据存储都是使用二进制的方式。 我们通过使用十进制进行小数点存储运算时，数据是可以精准展示，但是在进行二进制转换后得出的数据因精度问题就不能精确展示。 1、float与double的区别 在内存中占有的字节数不同 单精度浮点数在机内占4个字节,32位，首位表示符号，8位表示阶数k，剩下表示尾数部分。 ...
java float double精度为什么会丢失？(转)
pingwei000的博客
08-09 328
由于对float或double 的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解: view plaincopy to clipboardprint?public class FloatDoubleTest {   public static void main(String[] args) {   float f = 20014999;   double d = f; ...
java中double和float的转换
03-16
在Java中，double和float是两种不同的数据类型，它们之间可以进行转换。由于double是一种更高精度的数据类型，因此在将float转换为double时，不会丢失精度。但是，将double转换为float时，可能会丢失精度。 要将...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值