浮点数精度问题—自适应精度调整

一、什么是浮点数精度的问题?

简单来说,计算机把一些十进制的浮点数转为二进制数时,无法进行精确表示导致的,就类似下面这样:

二、处理方法

一种简易的精度自动化调整的方式,能较好的解决超出精度时的特殊情况。

# -*-encoding:utf8-*-
class Para(object):
	PRECISION = 0.0000000000000000001
	DYNAMIC_PRECISION = PRECISION
	INCREASE = 0.001
	RESULT = 0.5
	NUM = 0

def Clc():
	# 动态精度和静态精度相同时,处理业务
	if Para.DYNAMIC_PRECISION == Para.PRECISION:
		Para.NUM += Para.INCREASE
	# 在精度范围内,输出结果
	if abs(Para.NUM-Para.RESULT)<=Para.DYNAMIC_PRECISION:
		print("Para.NUM: ", Para.NUM)
		Para.NUM = 0
		# 动态精度还原回静态精度
		Para.DYNAMIC_PRECISION = Para.PRECISION
	# 超出精度,动态调整
	elif Para.NUM>Para.RESULT:
		print("Need ADJUST_PRECISION")
		Para.DYNAMIC_PRECISION = Para.NUM - Para.RESULT

def Run():
	while(1):
		Clc()


if __name__ == "__main__":
	Run()

 

  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值