python float 精度损失_【小思考】Python的float转换精度损失所想到的

最新推荐文章于 2024-02-28 11:32:34 发布
最新推荐文章于 2024-02-28 11:32:34 发布
阅读量520 收藏
点赞数
文章标签： python float 精度损失
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_39903538/article/details/113479928
版权
本文探讨了Python中浮点数精度损失的原因，通过示例展示了浮点数转换和运算时可能出现的问题。解决方案包括使用Decimal扩展提高精度和通过特定方法实现显示层面的修正。同时提醒开发者注意浮点数精度损失可能对程序逻辑造成的影响。
摘要由CSDN通过智能技术生成

首先，为啥会要讨论这个问题。

我得为昨天拖了小组后腿深表歉意。其实程序逻辑很快就理通了的，但自己总是会因为各种各样的小问题束缚手脚，看接下来这个图片：

94852b9dbdc0a1ae8b6fdf5ad8a318f8.png

稍微有数据敏感性的同学就能看出，中间这么一大堆又是0000又是999还是这么多位的小数，一看就是异常数据。这块数据的产生，源于代码里对两个字符串做了float转换并相减，导致出现了这种数据异常的错误。那么问题来了，1.这种异常是如何产生的？2.有哪些方法可以解决这种问题呢？3.编程中间还有哪些与这个问题相关的注意事项呢？

第一部分：这种异常是如何产生的呢？

我们先来看演示：

7f7d139262533c9b2838bce675bf5645.png

看来，直接输出float型数据，以及对字符串进行的float转换，本身并没有什么问题，那么为什么浮点数相减就会出现这个可恶的小尾巴呢？我们有必要从计算机本身数字加减的机制进行探究。有学习过《计算机组成原理》等基本课程、哪怕只是简单了解计算机内部运行机制的同学都明白，计算机内部的加减乘除都是要把数字转化成为二进制实现的。那么，我们此处的浮点数，也要转换为二

最低0.47元/天 解锁文章
weixin_39903538
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
java中float/double浮点数的计算失精度问题
登徒浪子blog
11-17 2731
 java中浮点数的计算今天在数值计算时碰到一个问题.程序如下:  double a = (3.3-2.4)/0.1;  System.out.println(a);你可能认为结果很简单,不就是9嘛,是事实上,结果为:8.999999998,为什么呢?我翻阅了一些资料,终于找出了原因.为什么浮点数会丢失精度？  十进制数的二进制表示可能不够精确浮点数或是双精度浮点数无法精确表示的情况并不少见。
float类型精度损失问题
小_鱼的专栏
06-10 2447
float范围为： 32 3.4E–038～3.4E+038 double范围为： 64 1.7E–308～1.7E+308 #include     #define EPSILON 0.0001      // Define your own tolerance#define FLOAT_EQ(x,v) (((v - EPSILON) int main()  {      
Float精度丢失
dieti3630的博客
09-16 96
BigDecimal _0_1 = new BigDecimal(0.1); BigDecimal x = _0_1; for(int i = 1; i <= 10; i ++) { System.out.println(i+" x 0.1 is "+x+", as double "+x.doubleValue()); x = x.add(_0_1); ...
浮点数的储存方式
baby_H的博客
09-22 1175
C语言和C#语言中，对于浮点类型的数据采用单精度类型（float）和双精度类型(double)来存储， float数据占用32bit,double数据占用64bit,我们在声明一个变量float f= 2.25f的时候，是如何分配内存的呢？ 如果胡乱分配，那世界岂不是乱套了么，其实不论是float还是double在存储方式上都是遵从IEEE的规范的， float遵从的是IEEE R32.24 ,而double 遵从的是R64.53。 无论是单精度还是双精度在存储中都分为三个部分： 符号位(Sign) :.
关于float,double的精度丢失
zhangzhao100的专栏
09-01 5993
1.疑惑 由于对float或double 的使用不当，可能会出现精度丢失的问题。问题大概情况可以通过如下代码理解:   Java代码  public class FloatDouble {          /**功能：打印float和double浮点数十进制和二进制表示       * @author mike       * @param args
float2bin_float_pythonfloat2bin_源码
10-01
标题“float2bin_float_pythonfloat2bin_源码”提示我们这里涉及的是一个使用Python编写的程序，它的主要功能是将浮点数转换为二进制字符串。描述进一步说明这是通过源代码实现的。 在Python中，内置函数`bin()`...
Python将string转换到float的实例方法
09-18
在Python编程语言中，将字符串（string）转换为浮点数（float）是常见的操作，尤其是在处理数值数据时。在本文中，我们将深入探讨几种不同的方法来实现这一转换，并了解其工作原理。 首先，最简单直接的方法是使用...
float_to_char.rar_float_float_ch_point floating lcd_浮点数 char_浮点数
07-15
标题"float_to_char.rar_float_float_ch_point floating lcd_浮点数 char_浮点数"暗示了这个压缩包可能包含了一个处理浮点数到字符转换的程序或代码片段，特别关注了浮点数的小数点位置和精度控制。标签中的"float_...
python 保存float类型的小数的位数方法
09-20
在Python编程中，处理浮点数（float）时，我们经常需要控制小数部分的位数，例如在显示结果或存储数据时。标题提到的"python 保存float类型的小数的位数方法"主要涉及如何精确地保留浮点数的小数部分到指定位数。...
python项目练习十：DIY街机游戏 .zip_python_python 游戏_python 项目_python小游戏_p
09-23
- 变量和数据类型：游戏中涉及各种变量，如分数、生命值、时间等，都需要用到Python的数据类型，如整型（int）、浮点型（float）和字符串（str）。 - 控制结构：包括条件语句（if-else）用于处理游戏逻辑，循环...
python float 精度_【小思考】Python的float转换精度损失所想到的
weixin_39950867的博客
11-27 666
首先，为啥会要讨论这个问题。我得为昨天拖了小组后腿深表歉意。其实程序逻辑很快就理通了的，但自己总是会因为各种各样的小问题束缚手脚，看接下来这个图片：稍微有数据敏感性的同学就能看出，中间这么一大堆又是0000又是999还是这么多位的小数，一看就是异常数据。这块数据的产生，源于代码里对两个字符串做了float转换并相减，导致出现了这种数据异常的错误。那么问题来了，1.这种异常是如何产生的？2.有哪些方...
python 之 浮点数精度丢失例如：0.1 + 0.2，产生的原因、问题的推导、解决的方案
风华浪浪的博客
07-27 2341
python是以双精度(64bit）来保存浮点数的，后面多余的会被砍掉，所以在电脑上实际保存的已经小于0.1的值了，后面拿来參与运算就产生了误差。浮点数的总数是无限且不可数的，浮点数在计算机占用的内存是有限的，计算机内存占满了。不可能用有限的内存空间存储无限多的浮点，后面多余的部分都会被砍掉。同上并不是所有的十进制数都可以用二进制格式精确表示，计算机基本上使用二进制数字，即 0 或 1表示；有些是使用有限数量的二进制数字来近似的。计算机的浮点类型也是由二进制表示的。
关于float的精度丢失总结
再鹤的博客
08-31 3339
最近在项目中遇到这么一个问题： 在提交支付的金额进行前后台的校验遇到两个金额不同的情况，我查询日志后发现是float精度丢失引起的；以下的代码运行后输出的是多少呢？ float a = 0; a = a + Float.parseFloat("152348.37"); System.out.println(a);结果是：152348.38 [
float double的精度损失
zombiebb的专栏
04-15 395
转：http://blog.csdn.net/fanfanjin/article/details/6908333 说的比较全面，但里面float四舍五入使用BigDecimal的方式有误，应为以下：   float d = 18896.45f; BigDecimal b = new BigDecimal(Float.toString(d));System.out.println(b.s...
python float 控制精度
热门推荐
蜗牛工作站
01-14 3万+
>>> a = 1.324444444444444444 >>> b = float('%0.3f'%a) >>> print b 1.324
float精度丢失问题详解
huxiaodong1994的博客
08-29 4269
今天运行一个程序，发现一个很有意思的情况，可以看到代码如下所示 public static void main(String[] args) { float a = 1; for (int i = 0; i<20000000; i++) { a++; } System.out.println(a); } public static void main(String[] args) { floa
浮点数（float、double）精度损失问题
lcy的博客
12-28 741
以前简单了解过浮点数的精度损失问题，但是没有系统整理过。😂。
python浮点数float的精度问题
最新发布
qq_52758588的博客
02-28 950
平时在pyhon写浮点数时，直接使用浮点数用来比较或者计算可能会出现误差。因为计算机二进制的内存存储方式，十进制转换成二进制保存，读取使用的时候再由二进制转换成十进制，在这个过程就会可能出现数据精度失真。python提供了decimal模块，用于进行高精度浮点数操作，我们通过创建decimal.Decimal对象并对其进行操作，可以确保精确的十进制计算。以上便是关于decimal模块的基本使用方法，在平时使用到浮点数数据的时候，为确保精度，一定要注意呀，友友们。
浮点运算都存在精度损失
yu_shi_bin的专栏
06-24 1362
http://www-900.ibm.com/developerWorks/cn/java/j-jtp0114/index.shtml
python float 精度,将Python Float转换为String而不会丢失精度
06-10
在Python中，float类型的数据是有精度限制的，因为它们使用二进制浮点数表示法。这就意味着对于某些小数，Python的float类型可能无法精确地表示它们。 如果你需要将一个Python的float类型转换为String而不会丢失精度，可以使用decimal库。这个库提供了 Decimal 类型，它可以保持任意精度的十进制数。 下面是一个例子，演示了如何将一个float类型的数转换为Decimal类型的数，并将其转换为字符串： ```python from decimal import Decimal x = 0.1 + 0.1 + 0.1 - 0.3 # x应该等于0，但是由于浮点数精度问题，它实际上是一个非常小的数 decimal_x = Decimal(str(x)) # 将x转换为Decimal类型 string_x = str(decimal_x) # 将Decimal类型转换为字符串 print(string_x) # 输出0 ``` 在这个例子中，我们先用浮点数计算了一个非常小的数x，然后将它转换为Decimal类型，并将其转换为字符串。最终输出的结果是0，因为我们使用Decimal类型来保持了精度。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值