c++之float数据精度

float数据精度




参考资料:《深入理解计算机系统(第三版)》


在参考资料的第二章里,详细讲解了整数的存储与计算,和浮点数的储存。具体见参考资料,本文档主要解释如下程序:

  float a = 0.0, b = -0.0;
  float d = 1e-259;
  double c = 1e-259;
  float result = 2.4;
  if (4.8 / 2 == result) {
    std::cout << "4.8/2 == 2.4\n";
  } else {
    std::cout << "4.8/2 !=2.4\n";
  }

  if (a == b) {
    std::cout << "a == b\n";
  } else {
    std::cout << "a != b\n";
  }

  if (c == d) {
    std::cout << "c ==d\n";
  } else {
    std::cout << "c !=d\n";
  }

其运行结果为

4.8/2 !=2.4
a == b
c !=d

我们首先验证一些基础知识,最后再解释这个例子


PS:本文档的测试程序使用的库函数如下:

#include <float.h>
#include <math.h>
#include <bitset>
#include <iomanip>
#include <iostream>

我们首先验证"==",运行以下测试代码:

  cout << setiosflags(ios::left) <&
  • 0
    点赞
  • 2
    收藏
    觉得还不错? 一键收藏
  • 0
    评论

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值