float型和double数据类型的计算误差

最新推荐文章于 2021-07-24 12:43:32 发布
最新推荐文章于 2021-07-24 12:43:32 发布
阅读量374 收藏
点赞数
分类专栏： C++
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_31638535/article/details/108557982
版权

今晚刚解决一个bug，本以为是float和double数据类型导致的误差，结果发现，两种数据结构并不会带来多大的影响

注意一个优先级的问题

C++里面

（int）a×10和(int)(a*10)是不一样的，因为括号的优先级不一样
今天debug的经验是不要光想，一定要dump数据分析，数据是不会骗人的，但是人的思维会骗人

佚明zj
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
关于float与double结果的误差
08-04
为什么输出是：333.333313呢？后面多出来的13是怎么回事啊？ 但是如果把float改成double就没有错误了，这是为什么呢？
float型和double型数据的存储方式1
08-08
奇怪输出结果：首先我们看看2.25的单精度存储方式，2.25 --> 10.01 --> 1.001*21符号位0，指数部分1+127 --> 10000000
C#中float, double的计算存在精度问题
天马3798
09-11 5400
一、C#中float, double的计算存在精度问题 //Linq Sum() 求和存在精确度误差 //应当计算结果10，实际结算结果9.999999999999998 double[] array3 = new double[] { 3.97,2.82,1.66,0.1,1.45 }; Console.WriteLine(array3.Sum()); double sum = 0; for (int i = 0; i <
Dart(flutter) 小数(double)运算 出现多位小数或精度问题
qq_33950912的博客
05-03 1万+
问题描述： Dart中的 double 与 js 中的 小数运算 一样,会出现 精度问题, 如以下情况： var a = 1.0; var b = 1; var c = 1.1; a - b = 1.00 c - b = 0.10000000000000000009 0.2 + 0.1 = 0.30000000000000004 原因分析： 这是由于 Dart 使用了和js一样的 IEEE 754 双精度标准进行存储。 解决方案： 像js一样 将 小数转化为 整
浮点数float累加误差解决方式总结
wolf96的专栏
07-10 2万+
首先是float累加产生误差的原因，该部分转自：http://blog.csdn.net/zhrh0096/article/details/38589067 1.  浮点数IEEE 754表示方法 要搞清楚float累加为什么会产生误差，必须先大致理解float在机器里怎么存储的，具体的表示参考[1] 和 [2]， 这里只介绍一下组成 由上图可知(摘在[2])， 浮点数由：
基于C++浮点数(float、double)类型数据比较与转换的详解
09-05
本篇文章是对C++中浮点数(float、double)类型数据比较与转换进行了详细的分析介绍，需要的朋友参考下
详解iOS之关于double/float数据计算精度问题
01-21
所以，当数据较大时，不会有影响，因为用户输入的数据和网络返回数据都被变成了不精确的小值了；但是，当数据较小时，用户输入的数据没有被转，网络返回的数据被转成了不精确的小值，导致用户输入永远大于网络返回的...
Keil MDK-ARM各种数据类型占用的字节数 char short int float double
05-11
Keil MDK-ARM各种数据类型占用的字节数 char short int float double占用字节数，uCOS-II
Java浮点数float和double精确计算的精度误差问题总结
热门推荐
喵星人
05-21 5万+
1、float整数计算误差 案例：会员积分字段采用float类型，导致计算会员积分时，7位整数的数据计算结果出现误差。 原因：超出float精度范围，无法精确计算。 float和double的精度是由尾数的位数来决定的。浮点数在内存中是按科学计数法来存储的，其整数部分始终是一个隐含着的“1”，由于它是不变的，故不能对精度造成影响。 float：2^23 = 8388608，一共七位，这意味
关于float浮点数的误差分析
Rocketcp3的博客
06-03 2858
浮点型简单讲就是实数的意思。浮点数在计算机中用以近似表示任意某个实数。具体的说，这个实数由一个整数或定点数(即尾数)乘以某个基数(计算机中通常是2)的整数次幂得到；但用浮点数真的可以准确表示实数吗？让我们来研究研究吧。如下图代码所示，理论上我们输出的数字应该是4000，但结果确是4001.552979，这就说明float浮点数是存在误差的那么这些误差值是为何而来呢其实那是因为精度越来越高，占字节数...
计算机数据类型误差怎么解决,误差分析与数据处理
weixin_39706127的博客
07-24 1161
《误差分析与数据处理》是2010年8月1日清华大学出版社出版的图书，作者是吴石林、张玘。本书可作为高等院校测控技术与仪器专业及其他相关专业的本科生教材，同时可供各类科技人员和工程技术人员参考。[1]书名误差分析与数据处理作者出版社清华大学出版社出版时间2010年8月1日页数255 页[1]定价32 元开本16 开ISBN9787302229292误差分析与数...
C/C++ python float、double为什么浮点计算不准确？ 表示范围及精度
qq_35608277的博客
03-05 5229
>>> 1.2 - 1.0 0.19999999999999996 根本原因：存在（用二进制存储时）“不可表示”，如0.1，0.2和0.01 计算机会把你心里想的十进制小数转换为二进制小数，然后在内存中存储二进制小数 CPython 中的 float 类型使用C语言的 double 类型进行存储。 float 对象的值是以固定的精度（通常为 53 位）存储的二进制浮点数，由于...
double类型运算会出偏差2020-11-06
qq_47738901的博客
11-06 475
double类型运算会出偏差 double类型数进行相互运算会出现较小的误差，当进行到多次运算后误差会明细出现； 例：double a=0.1，b=0.1；a+b结果是0.2。*此时已经产生误差只是很小没有体现出来就认为结果是0.2* package third; public class 浮点运算 { public static void main(String[] args) { // TODO Auto-generated method stub double a=0.1,b=0.1;
c语言中定义double精确到小数点后,C++中double类型的数字如何保留三位小数点详解...
weixin_31321851的博客
05-20 4375
我们知道C语言中，如果要求输出结果保留三位小数，我们可以使用pritf()函数轻松的解决。但是C++的输出运算符<我以一个例子作为讲解：已知线段的两个端点坐标是A(xa，ya)，B(xb，yb)，求线段AB的长度，保留到小数点后3位。样例输入：1 12 2样例输出：1.414代码如下：#include #include#includeusing namespacestd;int ...
float和double精度误差的问题总结（精确计算）
qq_30315977的博客
05-21 5032
在这里为什么要写出这个，那是因为解释为什么用到高精度问题的原因。如落谷的P1009这道题目，是求阶乘之和，之前我就有疑问，double的范围不是3.4*10的308次方么，没有益处啊。随后我做了大量的资料收集和理解.首先，float最多能有7位有效数字，而double则有16位，这句话我想很多像我一样大一的同学们都会看到，但是没能去理解,我们来看下代码#include&lt;stdio.h&gt;......
float精度误差
qq_36470686的博客
11-06 9687
一、表示范围 float类型数据占4字节内存（4B）,共32位（32bit），在计算机中按IEEE格式存储：1bit（符号位），8bit（指数位），23bit（尾数位）。 所以，float的指数范围为-127~+128。其中负指数决定浮点数所能表达的绝对值最小的非零数；而正指数决定浮点数所能表达的绝对值的最大的数，也决定浮点数的取值范围。 float的范围：-2^128~2^128,即-3.4E...
c语言代码实现比较float和double数据类型的精度
最新发布
03-13
可以使用以下代码比较float和double数据类型的精度： #include int main() { float f = 1.0/3.0; double d = 1.0/3.0; printf("Float: %.10f\n", f); printf("Double: %.10lf\n", d); if (f == d) { ...

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值