关于float浮点数的误差分析

浮点型简单讲就是实数的意思。浮点数在计算机中用以近似表示任意某个实数。具体的说,这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到;但用浮点数真的可以准确表示实数吗?让我们来研究研究吧。

如下图代码所示,理论上我们输出的数字应该是4000,但结果确是4001.552979,这就说明float浮点数是存在误差的


那么这些误差值是为何而来呢

其实那是因为精度越来越高,占字节数越多,在计算机中,越是精度高,需要占的内存越大,而在解决实际问题中成本也就越大,因此不得不结合考虑精度与成本的问题,所以便存在误差值。我们没有办法彻底消除这些误差值,但我们可以通过一些方法是这些误差值变小从而不影响我们的使用。

我们可以通过宏定义的方式来减小误差,如下图所示


这样一来我们便使误差减小到了0.000001,这个误差就不会我们正常使用浮点数。

 

评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值