关于为何1.0001,是如此的输出结果,后面会有多余的小数
1.0001 47 03 80 3f计算机储存低字节->高字节
3f 80 03 47高字节->低字节
00111111100000000000001101000111 系统对于32位float的储存形式 0 011111110000000000000 1 1 0 1 000 1 1 1 127-127=0 14 15 17 21 22 23 E=0 f=1/16384+1/32768+1/131072+1/2097152+1/4194304+1/8388608 f=0.00010001659393310546875 1.0001=(-1)0*(1+f)*2E 又进行如下测试
发现只有当前7位小数和整数部分产生变化,float的内存形式,才会变化 所以,系统仅会针对 前七位小数和整数 寻找符合 float编码储存中的f(小数) 但是这个小数f,只是二进制的表现就像.00000000000001101000111,这一串二进制为小数,并非十进制,所以极少出现恰好符合,因而会有多余的小数。 由于默认的float输出6位小数,所以会隐藏这一特点 |
c语言的float类型联系操作系统内部编码发现的问题
最新推荐文章于 2023-02-07 20:55:43 发布