float精度丢失问题

本来印象中float只是小数精度不够,最近项目中遇到一些问题,发现float能表示的整数范围也很小。于是重新学习了下float的存储问题,记录如下。

项目中遇到的问题:

有一个float类型的变量,需要不断地+1。在加到一个八位数的数字后,该变量+1后与执行+1前输出的结果相同。
即整数部分出现了精度不够。
代码说明:

#include<iostream>
#include<iomanip>

using namespace std;

int main() {
	float float_i = 34245780;
	float_i++;
	cout << fixed << setprecision(0) << float_i << endl;
	
	return 0;
}

输出结果仍是34245780

float存储模型

以32位的float为例,它的存储模型为:
符号位(1位) 指数位(8位) 尾数位(23位)
也可把指数位理解成:小数点方向位(1位)+指数位(7位)

内存中数据与实际表达值的转换

一个浮点数转化为内存中的存储方法如下:
1、决定符号位。若数为正,符号位取0,反之取1。
2、整数部分和小数部分分别转化为二进制。
3、转化后的二进制拼接在一起。如整数位二进制为100,小数位为01,则拼接为1001。
4、将拼接后的数字转化为科学计数法,即 1.0001 ∗ 1 0 2 1.0001*10^2 1.0001102
5、指数位为2。存储时存实际值+127的值,即指数位为10000001。
6、尾数位表示科学计数法中的底数。由于科学计数法第一位必为1,故统一省略,尾数位只需表示0001。
7、尾数位后面补0。
8、得到结果0 10000001 0001000000000000000000

对指数位的另一种理解

另一种理解是小数点方向位(1位)+指数位(7位)
如上例中拼接后的100.01,变成 1.0001 ∗ 1 0 2 1.0001*10^2 1.0001102 ,小数点左移,对应小数方向位为1。
再如0.001,变成 1 ∗ 1 0 − 3 1*10^{-3} 1103,小数点右移,对应小数方向位为0。
在此模型下,指数位为实际数字-1,如上例中的指数位为2,在该模型下对应的指数位为0000001。
其他计算方法不变,故上例中的数字在这种理解下为0 1 0000001 0001000000000000000000。最后表示出来的结果是一样的,只是理解不同。

float能表示的不丢失精度的最大整数范围

由上述模型可知,float只有24位是表示具体数值的(23位尾数位+1位默认为1而省略掉的科学计数法的头部)。故当float的范围超出 2 24 2^{24} 224时,float类型的++操作将因为精度不够,而在整数位出现丢失精度的情况。
代码验证如下:

#include<iostream>
#include<iomanip>

using namespace std;

int main() {
	float float_i = 1;
	int int_j = 1;
	while (float_i == int_j) {
		float_i++;
		int_j++;
	}
	cout << fixed << setprecision(0) << float_i << endl;
	cout << int_j << endl;
	cout << float_i + 10 << endl;
	for (int i = 0; i < 10; ++i) { ++float_i; }
	cout << int_j - float_i << endl;

	return 0;
}

输出结果为:
16777216
16777218
16777226
2

分析:
16777216就是 2 24 2^{24} 224的值。当float达到这个值之后,对它进行++操作,内存中记录不下这个操作,故它会一直停留在16777216这个值。
第三、四行的输出表示,一次性加10,改变了内存中的数据,显示出来的数会变化。但分10次++,因为每次++内存中都无法记录下该操作,故10次++后内存中的值没变,还是原来的那个味道。

  • 3
    点赞
  • 5
    收藏
    觉得还不错? 一键收藏
  • 2
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论 2
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值