浮点型运算结果是不精确的,会出现精度丢失

float a = 1.1f;
float b = 3.1415926f;
double b=1.1d;
double result = a+b; //结果是2.2000 0002 3841 858

解析:

  1. 单精度有7~8位小数,双精度有15位小数
  2. 二进制存储,单精度只有16个二进制位,双精度有64个二进制位,二进制位里面包含正负号,整数部分,小数点,小数部分 正 负号和小数点占用二进制位数是定值。
  3. 将十进制浮点数转换为二进制浮点数时,小数的二制有时也是不可能精确的,就如同十进制不能准确表示1/3,二进制也无法准确表示1/10,而double类型存储尾数部分最多只能存储52位,于是,计算机在存储该浮点型娄据时,便出现了精度丢失。
  4. 在进行浮点类数据计算的时候,浮点参与计算,会左移或右移n位,直到小数点移动到第一个有效数字的右边,于是也可能出现精度丢失。
  • 0
    点赞
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值