decimal 精确计算模块

Python 专栏收录该内容
37 篇文章 0 订阅

decimal 这个模块提供了十进制浮点运算支持

decimal模块中,可以通过整数,字符串构建decimal.Decimal对象。

如果是浮点数,特别注意,因为浮点数本身存在误差,需要先将浮点数转化为字符串。

精度提升的同时,肯定带来的是性能的损失;原生的float比Decimal对象肯定是要快很多的。

 

from decimal import *

####可以传递给Decimal整型或者字符串参数,但不能是浮点数据,因为浮点数据本身就不准确。

a1 = Decimal(5.55)*100
print 'a1=',a1  #a1= 554.9999999999999822364316060 数据不准确

a3= Decimal.from_float(5.55)*100
print 'a3=',a3  #a3= 554.9999999999999822364316060 数据不准确

a2 = Decimal('5.55')*100
print 'a2=',a2  #a2= 555.00  数据准确


######四舍五入,保留几位小数
b1 = Decimal('50.5679').quantize(Decimal('0.00'))
print"b1 = ",b1 #b1 =  50.57


#####设定有效数字,限定结果样式:
print(getcontext().prec)
getcontext().prec = 3
print Decimal(1)/Decimal(3)

 

  • 0
    点赞
  • 0
    评论
  • 0
    收藏
  • 一键三连
    一键三连
  • 扫一扫,分享海报

相关推荐
©️2020 CSDN 皮肤主题: 技术黑板 设计师:CSDN官方博客 返回首页
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值