如何彻底解决Python中精确小数位数计算的问题

背景:

为部门内部开发金融相关工具涉及计算,要求计算结果精度准确。但是Python由于计算机特性等固有原因,往往导致小数存在偏差。研究了解决此问题的方法。

误差原因

  • 二进制计算后转为十进制,存在浮点误差,一般从小数位16位开始出现。
  • Python自带round函数并非金融常用四舍五入,而是银行家算法也就是四舍六入五留双,需要转换为精确的四舍五入。

解决方案

  • 对计算过程中出现的所有数值进行截位,具体的截位方法和长度可以自行判定,在浮点误差之前截位即可,我一般是截10位。这样可以抵消掉浮点误差。
  • 具体的截位可以使用decimal类型的quantitize方法,注意四舍五入方法也需要指定为“ROUND_HALF_UP”
  • 最终展示时再次使用Decimal类的Quantize方法按需要保留小数。
  • 2
    点赞
  • 2
    收藏
  • 打赏
    打赏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包

打赏作者

每日出拳老爷子

你的鼓励将是我创作的最大动力

¥2 ¥4 ¥6 ¥10 ¥20
输入1-500的整数
余额支付 (余额:-- )
扫码支付
扫码支付:¥2
获取中
扫码支付

您的余额不足,请更换扫码支付或充值

打赏作者

实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、C币套餐、付费专栏及课程。

余额充值