解决python浮点数运算精度问题——decimal库

最新推荐文章于 2024-09-30 16:35:25 发布
最新推荐文章于 2024-09-30 16:35:25 发布
阅读量3.8k 收藏 2
点赞数 1
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/wys103158/article/details/96450094
版权

摘要

解决python中浮点数运算精度有误差的问题，之所以不准确，是因为我们人用十进制而机器用二进制来回转换导致的。（许多高级语言都有类似的问题）用math库的一些方法也没用。 我们可以借助decimal标准库来解决。主要用到的是Decimal和getcontext两个方法。
在这里插入图片描述
注意引号的使用

参考文章
https://blog.csdn.net/bitcarmanlee/article/details/51179572

月下独酌csdn
关注
100天精通Python（基础篇）——第33天：数学相关模块math、decimal基础+代码实战
努力让自己发光，对的人才能迎着光而来
04-11 2万+
100天精通Python（基础篇）——第33天：数学相关模块：math模块和decimal模块
python浮点数怎么运算_Python 浮点数运算
weixin_34060561的博客
12-23 6603
浮点数用来存储计算机中的小数，与现实世界中的十进制小数不同的是，浮点数通过二进制的形式来表示一个小数。在深入了解浮点数的实现之前，先来看几个 Python 浮点数计算有意思的例子：0.1 == 0.10000000000000000000001True0.1+0.1+0.1 == 0.3FalseIEEE 浮点数表示法这些看起来违反常识的“错误”并非 Python 的错，而是由浮点数的规则所决定的...
python—decimal高精度浮点数使用
Darkgreen的博客
01-09 827
基础使用 import decimal print(decimal.Decimal(1.1) + decimal.Decimal(3.3)) print(decimal.Decimal(1.1) - decimal.Decimal(3.3)) print(decimal.Decimal(1.1) * decimal.Decimal(3.3)) print(decimal.Decimal(1.1) / decimal.Decimal(3.3)) ''' 4.399999999999999911182158
python浮点数类型与数学_Python3标准库：decimal定点数和浮点数的数学运算
weixin_39572764的博客
11-21 309
1. decimal定点数和浮点数的数学运算decimal模块实现了定点和浮点算术运算，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模式(即大多数计算机硬件实现的IEEE浮点数运算)。Decimal实例可以准确的表示如何数，对其上火其下取整，还可以限制有效数字的个数。1.1 Decimal小数值被表示为Decimal类的实例。构造函数取一个整数或字符串作为参数。在使用浮点数创建Decimal之...
[Python]关于浮点数计算时的误差问题及其解决方法
最新发布
Persona_LXY的博客
09-30 717
而内存只会划分有限的空间来保存一个小数，所以当我们想要保存这个0.2的数字时，只会截取二进制数字中的一部分来保存，而当我们重新通过被截取的二进制数字来计算对应的十进制数字，就会产生误差。浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。然后再将小数部分乘以2，将得到的整数部分作为二进制表示的第2位；，这导致了在计算过程中精度的丢失。，有的有限十进制小数只能使用无限的二进制小数表示。出现这种问题的原因是，计算机中保存数字的寄存器是。
Python中的浮点数与decimal
weixin_30625691的博客
04-10 305
今天遇到了Python浮点数处理的一个问题：比如，如果在代码中这样写： print 23.53 + 17.64 + 5.88 输出 47.05, 这是正确的 但是，在Python Shell中，却得到了这样一个结果： >>> 23.53 + 17.64 + 5.88 47.050000000000004 在实际的项目中，如果我们要计算这样一个东西并把它...
python的浮点数_python中浮点数的精度
weixin_39616287的博客
11-26 3111
广告关闭腾讯云11.11云上盛惠 ，精选热门产品助力上云，云服务器首年88元起，买的越多返的越多，最高返5000元！python中，浮点数运算，经常会碰到如下情况:? 出现上面的情况，主要还是因浮点数在计算机中实际是以二进制保存的，有些数不精确。 比如说: 0.1是十进制，转化为二进制后它是个无限循环的数：0.00011001100110011001100110011001100110011001...
python 浮点数的精度问题
热门推荐
灰寨小学的python---小陈
07-19 1万+
程序语言浮点数由单精度型和双精度型两种 单精度型占4个字节32位的内存空间只能提供七位有效数字 双精度型占8个字节64位的内存空间可提供17位有效数字 python 3 浮点数默认的是 17位数字的精度 将精度高的浮点数转化成精度低的浮点数，内置方法 round() roud(2.873 , 2) ===> 2.87 格式化 %.2f 保留两位小数 ...
python中实现精确的浮点数运算详解
09-21
本文将深入探讨Python中如何处理浮点数运算的精度问题，并介绍一种常用的方法——`decimal`模块。 #### 浮点数缺乏精确性的原因 浮点数缺乏精确性的主要原因在于计算机内存有限而实数集是不可数的。计算机内部使用...
python float精度问题_Python之☞float浮点数精度问题
weixin_39940344的博客
12-09 897
(下面是精度漏洞的问题-转自其它)从下面这段脚本体现出来：>>> x = 0.0>>> for i in range(10):x += 0.1print(x)0.10.20.300000000000000040.40.50.60.70.79999999999999990.89999999999999990.9999999999999999>>>...
python利用Decimal处理浮点数计算的精度问题
T型人小付的博客
09-17 2004
之前在学习Django中ORM的时候，一直不明白怎么有一个数据类型叫Decimal。直到最近在一个项目中遇到了小数点计算的问题，发现要解决小数计算的精度问题，还真得用到这个Decimal不可。 文章目录问题描述解决办法四舍五入Decimal 问题描述 浮点数在内存中存储的时候因为存储机制的原因，天然存在精度丢失的现象，具体原因这里不赘述了，感兴趣的朋友可以参考另一篇博客《浮点型数据精度丢失实例详解》。 a=2.2 a*3 Out[16]: 6.6000000000000005 本来期望的结果是6.6，结果
Python浮点数精度问题（decimal模块）
l15668952150的博客
05-04 2844
Python使用decimal模块解决浮点数减法精度问题
python基础之解决浮点数计算精度问题
kymppcds的博客
08-15 967
浮点数简单讲就是数学中的小数，比如+0.1，-0.1，也可以通过float()函数定义。但是在实际使用中经常会遇到加减乘除或者四舍五入后精度失真的问题，会导致计算结果不准确。通常使用自带的decimal模块，通过构建decimal.Decimal对象，解决浮点数计算精度失真的问题。
高精度十进制计算库——Decimal
gitblog_00080的博客
05-22 382
高精度十进制计算库——Decimal decimalArbitrary precision decimal arithmetic项目地址:https://gitcode.com/gh_mirrors/deci/decimal 在精确的数学运算中，尤其是涉及大量小数点后位数的情况下，常规的浮点数运算可能无法满足对精度的要求。这就是Decimal项目应运而生的地方。它是一个用于任意精度十进制算术的开...
推荐：decimal——高效且精确的十进制浮点数库
gitblog_00047的博客
05-21 520
推荐：decimal——高效且精确的十进制浮点数库 decimalA high-performance, arbitrary-precision, floating-point decimal library.项目地址:https://gitcode.com/gh_mirrors/dec/decimal 在这个数字计算频繁的世界中，精确的数值处理变得至关重要。decimal 是一个强大的开源项目...
Python中的精确计算 Decimal
浮云
01-20 1450
浮点数的存储规则不精确，因为0.1 转换为二进制是无限循环的。在内存中规定，多余部分截断。所以在计算浮点型或者精度要求比较的时候，使用Deciaml 模块。 或者转为整型来计算，在把计算结果转回去。 def float_value(): i = 1 while decimal.Decimal(i).quantize(decimal.Decimal("0.00")) != dec...
python decimal类型转化_python中的decimal类型转换实例详解
weixin_29534399的博客
03-01 3056
[Python标准库]decimal——定点数和浮点数的数学运算作用：使用定点数和浮点数的小数运算。Python 版本：2.4 及以后版本decimal 模块实现了定点和浮点算术运算符，使用的是大多数人所熟悉的模型，而不是程序员熟悉的模型，即大多数计算机硬件实现的 IEEE 浮点数运算。Decimal 实例可以准确地表示任何数，对其上取整或下取整，还可以对有效数字个数加以限制。Decimal小数值...
Python decimal 模块解决浮点数计算不精确问题
消极的人永远是对的，积极的人选择勇往直前
11-12 1331
python 中的 decimal 模块提供十进制浮点运算支持 a = 1.1 b = 2.2 print(a + b) 结果竟然是： 输出不是期望的 3.3，这是由于原生的二进制浮点数本身存在误差，直接计算的话会得到不精确的结果。 为了消除这种误差，可以用 decimal 模块进行更加精确的浮点计算。 from decimal import Decimal #参数这里是字符串 a = Decimal('1.1') b = Decimal('2.2') print(a + b) 运算
Python标准库—decimal模块
L_zzwwen的博客
08-25 5166
decimal decimal模块为快速正确舍入的十进制浮点运算提供支持。它提供了 float数据类型以外的几个优点： 十进制数字可以准确表示：数字如 1.1 和 2.2 在二进制浮点中没有精确的表示。 >>> 1.1 + 2.2 3.3000000000000003 >>> from decimal import Decimal >>> ...
python标准库（可在算法比赛使用的库）——decimal库
sugarblock的博客
04-01 371
将Decimal对象格式化为字符串，保留两位小数。# 创建一个Decimal对象。# 创建两个Decimal对象。# 创建一个Decimal对象。# 创建两个Decimal对象。# 创建一个Decimal对象。# 创建一个Decimal对象。# 创建一个Decimal对象。# 创建一个Decimal对象。# 创建一个Decimal对象。1.创建Decimal对象。# 输出Decimal对象。# 转换为float类型。# 转换为int类型。# 判断是否为正无穷。# 判断是否为负无穷。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值