浮点数为什么有精度损失？

于 2024-01-29 15:58:01 发布
阅读量228 收藏
点赞数 2
文章标签： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_41159625/article/details/135914426
版权
文章解释了浮点数在表示0.2时为何会出现精度损失，原因在于十进制的0.2无法完美转换为二进制，计算机存储有限导致小数部分被截断，从而引起精度问题。
摘要由CSDN通过智能技术生成

浮点数为什么有精度损失？

如果我们现在想用浮点数表示 0.2，它的结果就是0.2(D) = 0.00110……(B)

因为十进制的 0.2 无法精确转换成二进制小数，而计算机在表示一个数字时，宽度是有限的，无限循环的小数存储在计算机时，只能被截断，所以就会导致小数精度发生损失的情况。

seven！@
关注
单精度浮点数 float、双精度浮点数 double
什么美哟有
06-29 1万+
内容导视：之前漏掉了小数对应的二进制，现补上。二进制转十进制从个位数开始向左计算，个位数乘以 2 的 0 次方，十位数乘以 2 的 1 次方，百位数乘以 2 的 2 次方…从十分位开始向右计算，十分位乘以 2 的 -1 次方，百分位乘以 2 的 -2 次方…然后将每个式子的结果相加。例 1：0b101.11 转为十进制 例 2：0b111.01 转为十进制 可以看到小数部分都是由 0.5、0.25、0.125、0.0625… 等数组合表示，前面的系数 1 或 0，0.625 = 1 * 0.5 + 0 *
float,double等精度丢失问题
hirvonen的专栏
01-07 2098
来自MSDN的解释： http://msdn.microsoft.com/zh-cn/c151dt3s.aspx 为何浮点数可能丢失精度浮点十进制值通常没有完全相同的二进制表示形式。 这是 CPU 所采用的浮点数据表示形式的副作用。 为此，可能会经历一些精度丢失，并且一些浮点运算可能会产生意外的结果。 导致此行为的原因是下面之一： 十进制数的二进制表示形式可能不精确。
为什么浮点类型的数值会精度丢失？
xuxinlong的博客
03-27 3290
在开发过程中，我们经常会发现浮点类型的数值会精度丢失，比如：System.out.println(2.0 - 1.1)我们肯定觉得应该输出0.9，但是程序输出的是0.8999999999999999在java程序中，JDK提供了BigDecimal类，以解决精度丢失这一问题，但到底是什么原因呢？这种舍入误差的主要原因是浮点数值采用二进制系统表示 ，而在二进制系统中无法精确地表示分数 1 / 10。...
为什么浮点数 float 或 double 运算的时候会有精度丢失的风险呢？
学亮编程手记
01-17 768
总之，由于上述原因，在进行浮点数运算时，特别是涉及到一些不能精确用二进制表示的十进制小数，以及多次运算后的累积误差，就可能出现精度丢失的问题。浮点数（float 或 double 类型）在计算机中使用二进制浮点表示法存储，这种表示法由三个部分组成：符号位、指数部分和尾数（也称为小数部分或有效数字）。这个和计算机保存浮点数的机制有很大关系。我们知道计算机是二进制的，而且计算机在表示一个数字时，宽度是有限的，无限循环的小数存储在计算机时，只能被截断，所以就会导致小数精度发生损失的情况。
浮点型出现丢失精度的原因
Hanyinh的博客
04-15 1385
浮点型出现丢失精度的原因 由于是使用二进制进行存储的，而对于一些小数，不能准确的使用二进制存储，因为可能无法消灭小数部分，导致无限循环下去，而又因为超过了其范围，所以就会导致精度丢失。 ...
S7-200SMART_双精度浮点数转换为单精度浮点数库文件及使用说明.rar
07-04
在转换过程中，务必理解可能存在的精度损失，这可能对某些高精度要求的应用造成影响。 通过以上步骤，您可以有效地在S7-200SMART系统中进行双精度浮点数到单精度浮点数的转换。记住，理解和掌握这种转换机制有助于...
单精度&双精度浮点数与十六进制数相互转换
04-10
在进行单精度和双精度浮点数与十六进制转换时，需要注意的是，由于浮点数的存储方式涉及舍入误差，转换过程中可能会导致微小的精度损失。此外，不是所有的十六进制数都能准确表示为浮点数，特别是对于超出浮点数范围...
JAVA浮点数计算精度损失底层原理与解决方案
08-31
浮点数计算在Java中常常会遇到精度损失的问题，这是由于计算机硬件的限制以及浮点数在二进制表示上的特性所导致的。在Java中，浮点数类型包括单精度浮点数`float`（4字节，32位）和双精度浮点数`double`（8字节，64...
PHP浮点数精度问题汇总
10-24
接下来，我们来探讨为什么PHP会出现浮点数精度损失的问题。具体来说，这主要源于以下几个方面： 1. 浮点数在计算机中的二进制表示：大多数十进制小数都无法用有限的二进制位精确表示。例如，十进制中的0.57转换为二...
为什么float或double运算的时候会有精度丢失的风险？
soulh88的博客
02-15 782
解决比较float精度丢失的两种方法为什么float或double运算的时候会有精度丢失的风险？
浮点数精度丢失分析及解决
云原生Java Web领域技术博客
12-01 5932
Java语言在处理浮点数，其实现逻辑与整数不同，如果使用不当可能会造成精度丢失、计算不准确、死循环等问题，严重的话，会造成经济损失。本文将从浮点数精度丢失入手，详细介绍下浮点数的原理及使用。
float、double浮点数运算为啥会丢失精度？
AP0906424的博客
10-16 4495
前言：在工作中，谈到有小数点的加减乘除都会想到用BigDecimal来解决，但是有很多人对于double或者float为啥会丢失精度一脸茫然。还有BigDecimal是怎么解决的？话不多说，我们开始。 1.浮点数是啥？ 浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。在java中，double是双精度，64位，浮点数，默认是0.0d。float是单精度，32位.浮点数，默认是0.0f； 在内存中存储 float符号位(1bit)指数(8 bit)尾数(2...
浮点数精度丢失的原因和解决办法
user2025的博客
08-02 1万+
文章目录二进制浮点数转换为十进制浮点数十进制浮点数转换为二进制浮点数浮点数的存储float类型在计算机中的存储形式中指数为什么要加127，而double类型要加1023？浮点数精度丢失的原因 二进制浮点数转换为十进制浮点数 十进制浮点数转换为二进制浮点数 浮点数的存储 float类型在计算机中的存储形式中指数为什么要加127，而double类型要加1023？ 以float为例，计算机表示单精度浮点数时，是用8位去存储指数部分，即表示0-255，但我们同样需要有负指数，正负指数的位数量为了均等，各自一
java浮点数精度损失原理和解决
点缀星空
01-18 778
背景 在刚开始接触java时，我就对浮点型损失精度问题感到疑惑，那时候不知道损失精度是怎么一回事，只是单纯的知道有这个弊端。在工作开发中，终于出现了该问题，例如 package sort; public class NumTest { public static void main(String[] args) { double a =1; double b...
double浮点数运算为啥会丢失精度？
chongchu7503的博客
06-21 3307
前言：在工作中，谈到有小数点的加减乘除都会想到用BigDecimal来解决，但是有很多人对于double或者float为啥会丢失精度一脸茫然。还有BigDecimal是怎么解决的？话不多说，我们开始。 1.浮点数是啥？ 浮点数是计算机用来表示小数的一种数据类型，采用科学计数法。在jav...
java float double精度为什么会丢失？浅谈java的浮点数精度问题
热门推荐
abing37的专栏
02-27 5万+
由于对float或double的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解:public class FloatDoubleTest {public static void main(String[] args) {float f = 20014999;double d = f;double d2 = 20014999;System.out
计算机进行浮点型运算为什么会造成精度丢失
分享美好的专栏
04-04 2543
现在我们就详细剖析一下浮点型运算为什么会造成精度丢失？ 1、小数的二进制表示问题 首先我们要搞清楚下面两个问题： (1) 十进制整数如何转化为二进制数 二进制整数 1111 第一位1表示十进制1 第二位1表示十进制2 第三位1表示十进制4 第四位1表示十进制8 ...... 十进制11表示成二进制数： 11/2=5 余 1 5/2=2 余 1 2/2=1 余 0 1/2=0 ...
浮点数是什么？如何表示浮点数？
最新发布
04-08
浮点数是一种用于表示带有小数部分的数值的数据类型。在计算机中，浮点数通常由两部分组成：尾数和指数。尾数表示数值的有效数字部分，而指数表示数值的数量级。 浮点数的表示方式通常采用IEEE 754标准。在该标准中，浮点数被表示为一个符号位、一个指数位和一个尾数位。其中，符号位表示数值的正负性，指数位表示数值的数量级，尾数位表示数值的有效数字。 具体地，浮点数的表示方式可以分为单精度和双精度两种。单精度浮点数使用32位来表示，其中1位用于表示符号位，8位用于表示指数位，23位用于表示尾数位。双精度浮点数使用64位来表示，其中1位用于表示符号位，11位用于表示指数位，52位用于表示尾数位。 浮点数的表示方式可以很大程度上提高计算机对于大范围和小范围数值的处理能力，但也存在精度损失的问题。由于浮点数的尾数位有限，无法精确表示所有的实数，因此在进行浮点数计算时可能会出现舍入误差。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值