float显示错误分析

最新推荐文章于 2022-09-02 08:43:59 发布
最新推荐文章于 2022-09-02 08:43:59 发布
阅读量1.3k 收藏
点赞数
分类专栏： 淡墨 文章标签： linux
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/aawcq2005/article/details/103681448
版权

最近遇到一个bug,输入的一个float数值(488.9),在显示时数值发生了变化.
数据处理过程比较简单,从文件读取文本,然后使用ssanf获取到数值, bug定位很快,基本能确定是ssanf出现的问题,但为何出问题分析了很久.
最后在网上找到答案,ssanf, scanf的输入默认只支持double,不支持float,导致用float出现数值偏差.
奇怪的是,改成double后,编译还有warning,提示应用float,但终究能解决问题.
便这么用了.

BruceWang
关注
专栏目录
DataFrame中的object转换成float的方法
09-20
如果转换成功，之前显示为object的数据类型将变为float或int，这可以作为检查数据转换是否成功的一种手段。 需要注意的是，尽管astype方法提供了便捷的数据类型转换，但在实际应用中，仍需根据数据集的具体情况和...
为什么float类型会报错，而改成double类型就不会
baidu_38730364的博客
03-21 1974
java编译器看到0.1，会自动认为是double类型的值。float a=0.1  会认为把一个双精度的值赋予一个单精度浮点数。这种情况下，java不会为我们自动转换，只会报错提醒。方法:1.     float a=0.1f    明确指定0.1 是单精度浮点数，然后赋值给a2.     float a=(float)0.1      强制转换...
浮点精度（float、double）运算不精确的原因
热门推荐
marco的博客
10-12 1万+
为什么浮点精度运算会有问题 我们平常使用的编程语言大多都有一个问题——浮点型精度运算会不准确。比如 double num = 0.1 + 0.1 + 0.1; // 输出结果为 0.30000000000000004 double num2 = 0.65 - 0.6; // 输出结果为 0.05000000000000004 笔者在测试的时候发现 C/C++ 竟然不会出现这种问题，我最...
如何在eclipse中输出true,I am a dev,and can program。
yanghao121的博客
03-07 255
打开eclipse并进入如下界面，具体方法详看我的前一个博客，即：用eclipse开发程序：实现输出Hello world! 然后在下图中打方框的位置第3行开始输入代码 具体代码为 public class HelloWorld{ public static void main(String[] args){ System.out.println(“true,I am a dev,and ca...
为什么int常量可以直接赋给byte,short，而double常量不能直接赋给float？
CVPR收割机的博客
10-14 2599
将一个整型的常量（字面值为int）赋给一个byte或者short类型的变量，只要不超过byte或short取值范围，就可以通过编译 byte a = 1;//编译通过 short b = 1;//编译通过 将一个浮点型的常量（字面值的double）赋给一个float类型的变量，即使不超过float的取值范围，也会出现编译错误 float c = 1.2;//编译报错 因为1.2默认为double类型，而double的数据类型范围大于float数据类型的范围，所以编译出现错误！ 请问为什么Java中会有这种双
java float赋值两种_java中为为什么给float类型变量赋值需要加F，而给byte、short赋值的时候却不需要呢？...
weixin_39761481的博客
02-24 1692
也是想到了这个问题，然后google到了这个知乎的讨论，看完大家的回答感觉都不能说服我。但是翻R大的一篇回答恍然大悟。Java基本类型的物理存储大小---R大的回答​hllvm.group.iteye.com和 @北南 的回答相似。JVM规范中所说，并没有说float，int,byte等占多少个字节，而是真正的有效位是多少。比如byte的有效位是1个字节，也就是-128到127。使用Java编程的...
C语言编码时常见错误分析.pdf
最新发布
12-26
C语言编程时常见错误分析 C语言是一种功能丰富、表达力强、使用灵活的编程语言，广泛应用于软件开发中。但是，C语言编程时常见的一些错误会影响程序的正确性和效率。这篇文章通过实际例子分析了C语言编程中常见的...
C语言编译过程中的错误分析
08-04
C语言编译过程中的错误分析 C语言编译过程中的错误分析是C语言学习中非常重要的一部分。通过对C语言的学习和实践，人们会积累一些常见的错误，这些错误可能会导致编译错误、运行错误或逻辑错误等问题。本文将总结...
float类型在内存中数值转换工具
01-24
- 可能还包含一些辅助功能，如比较两个`float`的内存表示是否相等，或者分析特定内存值的可能含义（如是否为NaN或无穷大）。 在使用这个工具时，开发者需要注意数据类型的一致性，理解不同OS和硬件架构下的数据表示...
DIV border边框显示不完全问题的解决方法
10-30
首先，我们分析标题和描述中提到的情况，即`div`下的`li`元素分两列显示时，边框显示不完整。这种问题通常与CSS布局和浏览器渲染有关。`li`元素是列表项，常用于创建有序或无序列表，而`div`则常用来包裹这些列表，...
c语言sscanf得到double数据
IANPTJU的博客
07-11 6167
是这样子的，在用sscanf/fscanf/scanf来扫描指定字符串按特定格式存储到变量时，需要指定合适的convention specifier，而type modifier有时可以忽略。但是在有些时候，type modifier是必须的，不指定type modifer会得不到期望的输入。以float/double类型为例：float fvalue;double dvalue;scanf("%...
c语言数组为什么float会报错,报错invalid types `float*[float]' for array subscript
weixin_35795792的博客
05-22 2317
该楼层疑似违规已被系统折叠隐藏此楼查看此楼#include#include#include#include int main(){float dl,c,d2,pl,i,j,oil=0.0,money=0.0,leave_oil=0.0;int n;float *p,*d,*cha;scanf("%f%f%f%f%d",&dl,&c,&d2,&pl,&n);...
Float类型出现舍入误差的原因(round 取位)
weixin_34101784的博客
11-27 1271
在练习时，输入如下代码： 结果不准确。 原因：https://blog.csdn.net/bitcarmanlee/article/details/51179572 浮点数一个普遍的问题就是在计算机的世界中，浮点数并不能准确地表示十进制。并且，即便是最简单的数学运算，也会带来不可控制的后果。因为，在计算机的世界中只认识0与1 python中的decimal模块可以解决上面的烦恼 ...
ValueError: Input contains NaN, infinity or a value too large for dtype('float32'64)可能的原因
qq_20945297的博客
11-08 1万+
造成这个错误的原因有一下三个： 1：既有可能出现的问题，nan，例如分母为0，或是log(-1)这种明显违背数学常理的情况 2：无穷值，无穷大或无穷小，例如log(0)就是一个负无穷的数值，无法处理 3：数值超出了float能表达的范围，以至于无法使用float表达出来 三个原因，从上到下，依次排查，很快就能找到问题的原因。 可以看一下数值的取值范围，最大最小值等，基本就能找到原因了。...
Python入门之基础语法
pro_daily的博客
09-02 3026
Python作业
UE4 崩溃记录（随时更新）
qq_35760525的博客
08-20 1万+
  1.float值的异常。 原因：此异常值为除0的后果，可以用FMath::IsNaN()来判断。另外，还有FMath::IsFinite()是判断是否无穷，如：当出现2.12345678987此类小数点过多的情况时会判断时无穷。   2.指针为空，调用其变量或函数。（很常见）   指针不为空，但内容出现NULL或者异常。（此情况一般是，对这个对象的多处指针引用，但是在A处销毁了，...
UE开发中常见的一些BUG处理（持续更新）
weixin_39813846的博客
03-18 1615
1.0 UE4C++工程代码迁移，遇到蓝图子类无法继承C++父类问题 Config/DefaultEngine.ini 文件中添加 [/Script/Engine.Engine] +ActiveGameNameRedirects=(OldGameName="/Script/OldGame",NewGameName="/Script/NewGame")+ActiveGameNameRedir...
C语言编译器词法分析实现
8. **标识符处理**：虽然代码中没有直接显示处理标识符的代码，但通常词法分析器会有一个机制来识别和处理由字母、数字和下划线组成的标识符。 词法分析器的实现通常涉及到正则表达式匹配和状态转换，这个程序通过...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值