python中浮点型和十进制_Python中的十进制定点和浮点算法

浮点数在内存中以2为基数的二进制分数表示。结果,浮点算术运算有时会很奇怪。0.1和0.2的相加会产生以下令人讨厌的结果->>> 0.1 + 0.2

0.30000000000000004

实际上,这就是二进制浮点表示的本质。这在任何编程语言中都很普遍。Python提供了一个十进制模块来执行快速且正确舍入的浮点运算。

十进制模块设计为完全按照人们希望的方式表示浮点,并且算术运算结果与预期一致。表示和操作的精度级别最多可以设置28个位置。

十进制模块定义Decimal类。可以通过为其构造函数提供整数,带有数字表示形式的字符串或元组作为参数来声明小数对象>>> from decimal import Decimal

>>> d1 = Decimal(10)

>>> d1

Decimal('10')

>>> d2 = Decimal('10')

>>> d2

Decimal('10')

元组参数包含三个元素:符号(0为正,1为负),一个数字元组和指数。例如>>> d3 = Decimal((1, (1, 2,3, 4), 2))

>>> d3

Decimal('-1.234E+5')

表示特定精度的浮点数的一种更方便的方法是通过getcontext()函数获取当前线程的上下文环境,并为Decimal对象设置精度。>>> from decimal import Decimal, getcontext

>>> getcontext().prec =

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值