lu_qcmm
码龄1年
  • 42
    被访问
  • 暂无
    原创
  • 999,519
    排名
  • 0
    粉丝
关注
提问 私信
  • 加入CSDN时间: 2021-09-16
博客简介:

lu_qcmm的博客

查看详细资料
个人成就
  • 获得0次点赞
  • 内容获得0次评论
  • 获得0次收藏
创作历程
  • 1篇
    2021年
TA的专栏
  • 题
  • 二进制原理
    1篇
  • 最近
  • 文章
  • 资源
  • 问答
  • 帖子
  • 视频
  • 课程
  • 关注/订阅/互动
  • 收藏
搜TA的内容
搜索 取消

2021-10-16 浮点型数据存储方式

转载自:解决float型数据精度损失问题 - pry_up - 博客园 (cnblogs.com) 问题:浮点型数据存储方式会导致数据精度损失,增大计算误差。 float fval = 0.45;  // 单步调试发现其真实值为:0.449999988 double dval = 0.45; // 单步调试发现其真实值为:0.45000000000000001 当很多个这样的单精度浮点型数据进行运算时,就会有累积误差,使得运算结果达不到理想的结果。尤其是对那种需要判断相等的情况(浮点型数据判断相等会
转载
发布博客 2021.10.16 ·
38 阅读 ·
0 点赞 ·
0 评论