python decimal模块进行小数运算不精确

最新推荐文章于 2023-04-09 17:52:14 发布
最新推荐文章于 2023-04-09 17:52:14 发布
阅读量293 收藏
点赞数
分类专栏： python
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/w6790400/article/details/117811722
版权

python

如图直接把数字加载到decimal.Decimal类里进行乘法运算会出现不精确的情况.

改为字符串赋值进去就好了.

 

pikechuz
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 3
    评论
专栏目录
Python decimal模块使用方法详解
09-16
Python的decimal模块是用于进行高精度浮点数运算的，特别适合处理财务和货币计算，因为它可以确保结果的精确性。下面将详细讲解decimal模块的使用方法。 首先，decimal模块的核心类是`Decimal`，它表示一个十进制数...
Decimal 数据计算精度计算规则
chiji8087的博客
12-22 1282
结果精度和小数位数的绝对最大值为 38。当结果精度大于 38 时，相应的小数位数会减少，以避免结果的整数部分被截断。 你用精度都为 decimal(38,12) 的两数相乘除,其结果精度都远大于38,因此小数位数被截断. decimal型表达式e1（精度为p1，小数位数为s1）和表达式...
MYSQL数据库 的 decimal 字段类型 和 Java 的BigDecimal
热门推荐
North Spark
08-08 5万+
mysql中的decimal , 在java中的用BigDecimal表示的
decimal 模块处理浮点数精度问题
weixin_43069769的博客
07-02 677
numpy elixir python clojure 因为这个问题不是计算错误，二是计算机浮点数除法的机制问题 python里直接导入decimal指定浮点数精度就可以解决。虽然有时候存在误处理状态。 import decimal decimal.getcontext().prec = 2 float(decimal.Decimal.from_float(2.9)/ decimal.Decimal.from_float(100)) ...
python计算出现错误
weixin_30830327的博客
06-10 1033
用python计算39.8-0.1得出的结果是39.699999999999996 其他数字计算正确，唯独这个计算错误。 原因： 中文解释：https://docs.python.org/zh-cn/3/tutorial/floatingpoint.html 英文解释：https://docs.python.org/3/faq/design.html#why-are-float...
Python | Decimal | 小数计算误差（浮点数计算精度丢失）
解决自己遇到的问题 分享认为有意义的知识 提供有一点点参考价值的灵感
08-25 4217
Python | Decimal | 小数计算误差（浮点数计算精度丢失） 编程语言中，浮点数（小数）四则运算总会出现一些与预期不符的情况，究其原因是因为计算机以二进制方式存储数据，对于小数的运算有天然的缺陷，计算机只能以极大限度的进行近似取值，于是精度问题就出现了。Python中，小数加减法出现的精度问题非常常见，一般使用decimal模块进行处理，因为是基于字符串进行处理的，所以在使用时一定注意前期转换为字符串，后期转换会对应的浮点类型。.........
python执行精确的小数计算方法
09-19
总结起来，Python的`decimal`模块是解决浮点数计算精度问题的关键工具，它通过字符串初始化和控制精度，能够实现高精度的小数运算。然而，对于大数和小数的混合计算，还需额外注意，可能需要结合其他方法如`math....
实例详解Python模块decimal
09-19
Python的`decimal`模块主要用于进行精确的十进制数学计算。相比内置的浮点数运算，`decimal`模块提供了更高的精度控制能力，适用于金融计算等需要高精度计算的场景。下面将详细介绍该模块的特点及用法。 #### 特点 ...
python 保存float类型的小数的位数方法
09-20
Python的`decimal`模块提供了更精确的浮点数运算，特别适合需要高精度计算或货币计算的场景。`Decimal` 类可以创建精确的十进制数。`quantize()` 方法用于将Decimal对象四舍五入到指定的精度。在示例中，`Decimal('...
解决Python中浮点数计算结果不够精确的问题：decimal模块
qq_39662044的博客
08-02 4900
decimal模块的使用
python 小数精度_py_28 Decimal处理小数计算精度问题
weixin_39856055的博客
12-05 252
python Decimal这个类处理浮点数精度浮点数在内存中存储的时候因为存储机制的原因，天然存在精度丢失的现象,比如2.2*3不等于6.6.所以小数在计算的时候值的精度一直是个问题。Decimal就是来处理精度问题。但是处理过后性能堪忧。所以写代码的，除浮点数之外参与运算，其他尽量不用Decimal处理。"""浮点数在内存中存储的时候因为存储机制的原因，天然存在精度丢失的现象"""# 比如 2...
浅析Python高精度计算的误差
最新发布
m0_73792575的博客
04-09 2454
但是Python其实很多时候都是有误差的，（事实上，计算机语言本身以有限位数的二进制浮点数进行运算和存储的方式决定了基于计算机的数值计算必然会出现误差，包括但不限于舍入误差、截断误差和化整误差）。
Python中浮点数运算不正确问题（慎入）
菜鸟IT女
12-17 4151
大家好，老 Amy 来了。之前就意识到一个问题，但是最近又有朋友提出来了，所以就想着干脆记录下来，分享给大家叭~ 啥问题呢？请看题： 也就是说，需要大家计算1.1-1的值，很多朋友会说：“emmm…这还不简单，玩我呢？不就是0.1嘛” 但是如果你用 python 去执行一下，会发现结果跟你想的不太一样，如下图： 这样大家是不是发现了什么问题？是的，浮点数在运算过程中并没有保证完全精确，是什么原因导致了这种现象呢？很多朋友就会窃喜：“这不就是 Python 的 bug 嘛~” 但实际上，这并不是 Pyth
python--使用浮点类型float计算后，数值不对
weixin_30338481的博客
08-27 1193
在练习时，输入如下代码： 结果不准确。 原因：https://blog.csdn.net/bitcarmanlee/article/details/51179572 浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。因为，在计算机的世界中只认识0与1 python中的decimal模块可以解决上面的烦恼 ...
python减法精确度不准是什么问题,聊聊Python中的浮点数运算不准确问题
weixin_31064267的博客
03-26 3150
大家好，老 Amy 来了。之前就意识到一个问题，但是最近又有朋友提出来了，所以就想着干脆记录下来，分享给大家叭~啥问题呢？请看题：也就是说，需要大家计算1.1-1的值，很多朋友会说：“emmm…这还不简单，玩我呢？不就是0.1嘛”但是如果你用 python 去执行一下，会发现结果跟你想的不太一样，如下图：这样大家是不是发现了什么问题？是的，浮点数在运算过程中并没有保证完全精确，是什么原因导致了这种...
为什么在Python中两个浮点数的运算结果会不精确？
qq_43509222的博客
10-20 2956
问题描述： 在python中定义两个浮点型变量，值分别为1.1和2.2，两者相加并输出结果，结果并非为我们直观得到的3.3，而是趋近于3.3的一个小数值。 代码如下： n1 = 1.1 n2 = 2.2 print(n1+n2) 输出结果： 3.3000000000000003 为什么会出现这种情况呢？ 分析： 计算机中只有0和1，所有数据在计算机中都是以0和1的形式存储的，在机器字长有限的情况下，浮点数（小数）的精度也是有限的。 举个例子： 假如用一个8位的变量表示-1—1之间的小数，8位的变量共有
Python浮点数数组求和结果不精确问题
AmourzxqのBLOG
08-17 2583
Python浮点数数组求和结果小数点溢出/有误差/小数点不精确的问题。
Python decimal 模块解决浮点数计算不精确问题
消极的人永远是对的，积极的人选择勇往直前
11-12 1259
python 中的 decimal 模块提供十进制浮点运算支持 a = 1.1 b = 2.2 print(a + b) 结果竟然是： 输出不是期望的 3.3，这是由于原生的二进制浮点数本身存在误差，直接计算的话会得到不精确的结果。 为了消除这种误差，可以用 decimal 模块进行更加精确的浮点计算。 from decimal import Decimal #参数这里是字符串 a = Decimal('1.1') b = Decimal('2.2') print(a + b) 运算
python小数乘法有误差_javascript 小数乘法结果错误的处理方法
weixin_39652646的博客
12-06 393
一、用js计算12.32 * 7 结果是多少？答案：86.24000000000001为什么会出现这种问题？怎么解决？js在处理小数的乘除法的时候有一个bug，解决的方法可以是：将小数变为整数来处理。以上的计算可以改为：12.32 * 100 * 7 /100得出的结果是：86.24，正确。另外再计算一下：8.80 * 100 * 12 / 100结果：105.6000000000000238....
Python中实现精确浮点数运算与decimal模块
为了进行精确的浮点数运算，Python提供了`decimal`模块。`decimal`模块设计用于需要高精度和可控制舍入行为的场合。在示例中，通过将4.2和2.1转换为`Decimal`对象，可以实现无误差的加法运算。`Decimal('4.2') + ...
评论 3
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值