为什么大部分浮点数字计算机中是不精确的

计算机中的浮点数(小数)大部分是不精确的;

计算机的数字的存储和运算都是通过二进制进行的,十进制的数要转换成二进制再进行储存和运算,Float和Double的小数部分会出现无限循环的情况,所以会出现不准确的情况;

十进制的小数转二进制 :

小数部分乘以2,结果够1则补1,不够1则补0,结果一直乘以2,直到结果是1.0;

比如 15.6 ;
整数转整数,小数转小数

1111.1011001100

0.6 * 2 = 1.2 //补1 
0.2 * 2 = 0.4 //补0
0.8 * 2 = 1.6 //补1
0.6 * 2 = 1.2 //补1
0.2 * 2 = 0.4 //补0
0.4 * 2 = 0.8 //补0
0.8 * 2 = 1.6 //补1
0.6 * 2 = 1.2 //补1
0.2 * 2 = 0.4 //补0
0.4 * 2 = 0.8 //补0 

  • 3
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值