C语言_0217笔记_浮点数:范围和精度/inf nan/浮点误差处理/科学计数法/输出精度

知识点提炼:

浮点类型float和double

简单介绍

  • 数轴靠近0的部分【10^(-38)】是无效的,也就是不能无限趋近于0。

  • inf即infinite,正负无穷,nan:无效数。

  • 右边的有效数字意义:例如float的有效数字为7,第七位为准确,第八位及以上就不准确了。

浮点的输入输出

浮点数的范围与精度

  • 怎么出现inf和nan

  • 结果为:inf -inf nan//正无穷 负无穷 不存在

  • 如果是整数运算:

会怎么样?答案是:不能通过编译。因为整数无法表示无穷,浮点数在设计时加入了上面三种特殊的结果。

  • 浮点数的运算没有精度

有下列代码:

如果将c四舍五入到小数点后4位,其值确实是2.468,但实际上在计算机内部其值并不是准确的2.468.所以二者不相等。

  • 为什么要带f?

带小数点的数,字面量是double而非float,此处为了表明自己是float,需要在字面量后面加上f或者F。

  • 两个浮点数不一定相等

  • f1==f2可能会失败,那么如何避免这个问题?

只要f1和f2的绝对值差fabs(f1-f2)< 精度(float为1e-8,double为1e-16)

  • 怎么处理浮点数带来的误差

  • 整数是精确的,想办法换为整数运算,小数是不精确的。

  • BCD数

  • 因此浮点数并不是纯二进制,而是编码类型

  • 怎么选择浮点数-double

科学计数法

  • %e:科学计数法,也可写为%E

        double ff=1234.56789;
        printf("%e\n",ff);//1.234568e+003//1.234568e乘以10的3次方
        return 0;
  • 1e-10//1.0*10的-10次方

输出精度

注意是四舍五入的

  • 输出结果为:

  • 会出现第二种值的原因是:在数学概念中两个数之间可以取的数是无限的,但在计算机中,数字都是离散的,所以不能取到无限个数,而给出的这个数就是30位小数情况下最接近0.49的一个数

  • 会出现第三种值的原因是:4是在第四位被四舍五入掉了(4舍5判6入)

  • 计算机的数值都是非准确的,只能无限接近,对于double和float,double的浮点误差可能会更小的一点,表示的精度更高一些。

  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值