【Python】浮点数减法精度问题

最新推荐文章于 2023-06-23 03:30:34 发布
最新推荐文章于 2023-06-23 03:30:34 发布
阅读量6.7k 收藏 1
点赞数
分类专栏： 学习笔记 文章标签： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/u010830105/article/details/52095210
版权

今天和同事测试发现浮点数减法没有得到预期值，哈哈哈，然后一看果然是浮点数计算精度有问题，还好是显示价格咯，正常保留小数点后面两位即可。

解决方式：
直接使用内置函数——round()

>round(2.77777)
>2
>round(2.7777, 2)
>2.77
YvonneFtMore
关注
专栏目录
浮点数加减法精度不准确问题
Kainozoic的博客
05-10 1333
浮点数加减法精度不准确问题 我们在使用浮点数进行计算时会发现一些运算的结果和我们想的不一样 例如 a=5.6 b=1.6 print(a-b) print(a+b) 我们直接口算出结果应该为4.0和7.2，但是在编译器中运行后的结果为 3.9999999999999996 7.199999999999999 不过也并不是所有的浮点数都不准确 例如 a=5.5 b=1.5 print(a-b) print(a+b) 这样计算就可以输出正确的结果 4.0 7.0 当我第一次遇到这种情况，还不明白出现了什
python打印浮点数精度_如何打印浮点数的全精度[Python] - python
weixin_39915815的博客
12-20 2475
我编写了以下函数，其中传递了x，y的值：def check(x, y):print(type(x))print(type(y))print(x)print(y)if x == y:print "Yes"现在当我打电话check(1.00000000000000001, 1.0000000000000002)它正在打印：1.01.0现在从变量x和y的打印语句中，我很难调试为什么x！= y(尽管两者都...
关于Python中浮点数精度处理的技巧总结
12-25
前言 最近在使用Python的时候遇到浮点数运算，发现经常会碰到如下情况: 出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。 比如说: 0.1是十进制，转化为二进制后它是个无限循环的数： 0.00011001100110011001100110011001100110011001100110011001100 而python是以双精度(64)位来保存浮点数，多余的位会被截掉，所以看到的是0.1，但在电脑上实际保存的已不是精确的0.1，参与运算后，也就有可能点误差,特别是金融邻域里面，对精度更是要求更高，如何在Python中获取特定位数精度值? 【方法一】
Python浮点数精度问题（decimal模块）
l15668952150的博客
05-04 2808
Python使用decimal模块解决浮点数减法精度问题
python float加减_Python入门级第一天（day01）
weixin_32451529的博客
01-31 607
what：Python是什么？Python是一门解释型的面向对象的编程语言【弱类型】C：编译型的面向过程的编程语言【强类型】Java：编译型的面向对象的编程语言【强类型】who：谁在使用Python？why：为什么要使用Python？how：如何学习Python？看书【意志力好，相对枯燥】视频【同步操作，学习效率高，系统性的学习】微博、社区、知乎、博客、培训...how ...
python浮点数的处理
qq_34786604的博客
09-07 2178
我们都知道计算机最底层是二进制的！！！所以我们习以为常的十进制数据最终也是二进制表示。不幸的是，大多数十进制小数不能完全用二进制小数表示。结果是，一般情况下，开发者输入的十进制浮点数仅由实际存储在计算机中的近似的二进制浮点数表示。这是二进制浮点数的自然性质：它不是 Python 中的一个 bug，也不是开发者的代码中的 bug。最后我们要说，虽然对于不同场景下浮点数的处理“没有统一的答案”，但也不要过分惧怕浮点数。
python中浮点数运算的问题
slash_xd的博客
07-26 646
A=4.2 B=2.1 A+B=6.30000001 (A+B) == 6.3 FALSE from decimal import Decimal a=Decimal("4.2") b=Decimal("2.1") a+b print(a+b) (a+b) == Decimal("6.3") true
python的浮点型做加减法时输出问题
xglkj57的博客
11-12 1451
1.1+2.2=3.3000000000003 解决方法如下 from decimal import Decimal print(Decimal('1.1')+Decimal('2.2')) 提问 decimal的‘’ 单引号的作用是什么 加引号是以字符串表示的精确数值输入。
python减法精确度不准是什么问题,聊聊Python中的浮点数运算不准确问题
weixin_31064267的博客
03-26 3159
大家好，老 Amy 来了。之前就意识到一个问题，但是最近又有朋友提出来了，所以就想着干脆记录下来，分享给大家叭~啥问题呢？请看题：也就是说，需要大家计算1.1-1的值，很多朋友会说：“emmm…这还不简单，玩我呢？不就是0.1嘛”但是如果你用 python 去执行一下，会发现结果跟你想的不太一样，如下图：这样大家是不是发现了什么问题？是的，浮点数在运算过程中并没有保证完全精确，是什么原因导致了这种...
python浮点数比较大小_浮点数的相等比较
weixin_39568926的博客
12-08 8603
浮点数的相等比较今天群里边一哥们儿——哦，确切地说，应该是一姊妹——问到了Python中怎样判断一个浮点数的小数部分是不是0，本意是要找和C语言中的fmod函数相同功能的函数的，在Python中在math模块中有这个函数，可是却挑起了一个浮点数精度的话题。突然想到偶们学习C语言的时候老师讲到过，整数的相等比较可以直接使用==来判断，但是浮点数的比较不能简单的用==来比较。那怎么对浮点数是否相等进行...
chatgpt赋能python：Python浮点数：介绍、精度和应用
m0_56069948的博客
06-23 530
浮点数是指在计算机中使用二进制表示的实数。在Python中，浮点数是用小数表示的。例如，3.14是一个浮点数。Python将浮点数存储为IEEE 754双精度浮点数，它使用64位表示。由于Python是一种动态类型语言，因此不需要预先声明变量类型。您可以直接在Python中使用浮点数进行运算。输出结果：8.539718299999999本文由chatgpt生成，文章没有在chatgpt生成的基础上进行任何的修改。以上只是chatgpt能力的冰山一角。作为通用的Aigc大模型，只是展现它原本的实力。
python 浮点数精确运算解决方案
bitcarmanlee的博客
04-18 3万+
浮点数误差浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。因为，在计算机的世界中只认识0与1。>>> x = 4.20 >>> y = 2.10 >>> x + y 6.3000000000000007 >>> (x+y) == 6.3 False >>> x = 1.2 >>> y = 2.3 >>> x + y 3.5
python执行精确的小数计算
杨佳佳的博客
05-13 2万+
在进行浮点数计算时它们无法精确表达出所有的十进制小数位。a = 4.1 b = 5.329 print(a+b) 9.428999999999998这些误差实际上是底层CPU的浮点运算单元和IEEE754浮点数算数标准的一种“特性”。python的浮点数类型保存的数据采用的是原始表示形式，因此使用float实例时就不能避免这样的误差。我们可以使用decimal模块避免这种操作(如果不介意牺牲下性...
python中运算过程中小数精度的控制
Great haste makes great waste
02-08 2万+
用python进行运算时，如果会出现浮点数，有时候会需要对小数精度进行控制，主要方法有以下几种：1、round（）round()是python的内置方法， round()如果只有一个数作为参数，不指定位数的时候，返回的是一个整数，而且是最靠近的偶数整数(python2.7版本则是四舍五入，这个针对的是python3版本）。如果有两个参数则最多保留精度为第二个参数大小。In [1]: 4 - 3.6
python 精确计算小数_Python-CookBook：41、执行精确的小数计算
weixin_39737831的博客
12-08 907
问题我们需要对小数进行精确计算，不希望因为浮点数天生的误差而带来影响。解决方案关于浮点数，一个尽人皆知的问题就是它们无法精确表达出所有的十进制小数位。此外，甚至连简单的数学计算也会引入微小的误差。例如：>>> a = 4.2>>> b = 2.1>>> a + b6.300000000000001>>> (a + b) == ...
Python中两个浮点数的简单运算
welcome_yu的博客
03-15 3635
为什么浮点数不能直接比大小呢？ 简单的来说就是计算机里面的数字是由二进制保存的，在计算机内部有些数字不能准确的保存，于是就保存一个最靠近的数字。 在十进制中也会存在这样的问题，数字不能准确地表示像1/3这样的数字，所以你必须舍入到0.33之类的东西 - 你不要指望0.33 + 0.33 + 0.33加起来就是1。 因此我们在比较两个float是否相等时，不能仅仅依靠 == 来进行判断，而是当他们两者的差小于一个我们可以容忍的小值时，就可以认为他们就是相等的。 那么Python是如何解决的呢？ 第一种方法：
Python中浮点数精度处理
热门推荐
杰瑞的专栏
07-01 6万+
Python中，浮点数运算，经常会碰到如下情况: 出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。 比如说: 0.1是十进制，转化为二进制后它是个无限循环的数： 0.00011001100110011001100110011001100110011001100110011001100 而python是以双精度(64)位来保存浮点数，多余的位会被截掉，所
python 64位浮点数加减法
最新发布
05-23
Python 中的 64 位浮点数加减法使用 `float` 类型进行操作。下面是一个例子： ```python a = 1.23 b = 4.56 c = a + b d = a - b print(c) # 输出 5.789999999999999 print(d) # 输出 -3.33 ``` 需要注意的是，由于浮点数的精度问题，可能会出现一些小数点后面多余的数字，因此在比较浮点数是否相等时，需要考虑精度问题。可以使用 `math.isclose()` 函数进行比较。 另外，Python 中也提供了 Decimal 类型，可以更加精确地进行浮点数计算。使用 Decimal 类型进行加减法操作的示例代码如下： ```python from decimal import Decimal a = Decimal('1.23') b = Decimal('4.56') c = a + b d = a -3.33 ```
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值