[00302]执行精确的浮点数运算

执行精确的浮点数运算

一、 解决问题

需要对浮点数执行精确的计算操作,并且不希望有任何小误差的出现

二、解决方案

decimal 模块

三、代码说明

#!/usr/bin/env pthon

from decimal import Decimal

"""
Decimal 接受字符串来表示数字, 
一般用于金融领域
"""
a = Decimal("4.2")
b = Decimal("2.1")
c = a + b
print (c) #->6.3
"""
Decimal 允许控制计算的每一个方面,
包括数字位数和四舍五入运算
"""

from decimal import localcontext
from decimal import Decimal
a = Decimal("1.3")
b = Decimal("1.7")
print (a / b) #->0.7647058823529411764705882353
with localcontext() as ctx:
    ctx.prec = 3
    print (a / b) #->0.765

四、关联知识

decimal 模块配置 传送门,待补充

五、总结

六、代码地址

github地址:https://github.com/weichen666/python_cookbooka>
目录/文件:third_selection/learn_data_date_time_decimal.py

七、参考

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值