浮点数非精确数，作比较运算时需谨慎！

最新推荐文章于 2022-02-21 13:56:08 发布
最新推荐文章于 2022-02-21 13:56:08 发布
阅读量517 收藏
点赞数
分类专栏： 编码易错点 文章标签： 编程 计算机 c 编程语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/love125/article/details/46742595
版权

在C、Python等编程语言中，都会有float这一数值类型，使用时要注意.


由于在计算机内部，是不存在分数之说的，所以1/3会被表示为0.33333333，小数部分3的个数是不可能完全确定的，所以在代码编写中，若要表示1/3*2  等于2/3


if（1/3*2 == 2/3） 的方式是不可取的


应该用 if(abs(1/3*2 - 2/3) < 0.0..01)   来判断，用0的个数来表示你想要的精度即可！

嘉永
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Java中如何正确进行浮点数运算
08-24
例如，某些看似简单的浮点数运算可能会产生非预期的结果，因为它们实际上是近似值而非精确值。以下是一个简单的示例，展示了浮点数运算的不精确性： ```java float f1 = 0.1f; float f2 = 0.2f; float result = f1 ...
求解2
pyRPG的博客
11-12 597
运行Kodu时又发生了一个错误： 有关调用实时(JIT)调试而不是此对话框的详细信息， 请参见此消息的结尾。 ************** 异常文本 ************** System.ArithmeticException: 函数不接受浮点非数字值。 在 System.Math.Sign(Single value) 在 Boku.Base.BaseChassis.App...
判断浮点型是否是非数值 isnan
u013245162的博客
03-20 1052
最近做Kalman滤波的时候不小心越界了，于是就出现了非数值。 标准提供了类似于isnan、isfinite、isinf、isnormal、fpclassify分别用于判断是非数(NaN)值、有限制、无穷值、正常数值等. boolisnan(floatarg); (1) (C++11 起) boolisnan(doublearg); (2) (C++11 起) boolisnan(longdoublearg); (...
避开浮点数——伪浮点数
停止更新，迁移至ykpeng.com
02-17 3263
对于定点处理器来说，浮点数学运算的代价是非常巨大的（大多数嵌入式应用都是定点处理器）。相对于整数数学运算，浮点数学运算慢的要死。每个操作都会调用某个库来实现相应的函数，而这个库通常相当大。即使所使用的浮点数学非常简单，应用程序的大小也是非常惊人的。 （标准的输入输出函数（例如printf和iostream）通常包含浮点处理。即使代码中没有使用浮点，但如果使用了这些函数，那么代码还是会包含浮点算术...
为什么浮点数不能用“==”比较？
luoro的博客
06-28 2898
我们用一个for循环对0.1进行9次相加赋值给a;再将0.1*9赋值给b;按道理来说，用“==”对a与b进行判断。a应该是等于b的，而事实是这样吗？好像不是的 public class myclass { public static void main(String[] args) { double a=.0; for(int i=1;i<=9;i++) { a += .1; } double b=
不同运算机制下FFT计算精度分析
10-16
浮点数由符号位、指数和尾数三部分组成，这种格式允许更精确地表示接近0的小数和非常大的数，从而在大多数情况下能获得更高的计算精度。然而，浮点运算的精度受浮点格式位宽的限制，不同的位宽（如单精度、双精度）...
FMath2.rar_定点数
最新发布
09-14
此外，定点数运算通常比浮点数慢，因此在性能敏感的代码段中需要谨慎使用。 "www.pudn.com.txt"这个文件可能是关于该模板类的来源或版权信息，也可能包含一些使用说明。在实际应用中，开发者需要阅读这个文件来了解...
浮点数精度问题
05-25
浮点数精度问题在计算机科学和编程中是一个常见的主题，特别是在进行数学计算和数据处理...通过选择合适的数据类型、使用高精度库、设置比较容差以及谨慎地格式化输出，我们可以有效地管理和减少浮点数精度误差的影响。
python执行精确的小数计算方法
09-19
虽然`decimal`模块提供了精确计算的能力，但要注意，处理大数和小数相加时，仍需谨慎，因为即使使用`decimal`，也可能因为中间步骤的精度损失而引入误差。例如，下面的代码展示了使用内置`sum`函数和`math.fsum`函数...
判断输入是否为浮点数
06-10
判断输入是否为浮点数
不可将两个浮点数 直接做 相等比较判断
超级张大侠的博客
06-04 1631
a=0.333，b=0.333， if(a==b) { } 能这样用吗？看起来没问题，其实问题很大。 浮点数和double型数在计算机中并不能精确存储，所以看似相等，但是在计算机中存储的二进制不一定相等，所以浮点数的比较是否相等，一般是让两个浮点数相减求绝对值，绝对值在某个范围内就认为相等，至于之歌范围是多大也是自己决定的，还有一种办法，浮点数乘整数倍数，然后转化为整型，再去做比较，函数如下： u8 FloatEqual(float f1,float f2) { u8 res = 0; .
浮点数Number NaN isNaN()非数函数
哈里·雪利博客
12-29 1495
无穷（正负无穷） alert(Number.POSITIVE_INFINITY);        //infinity正无穷 alert(Number.NEGATIVE_INFINITY);    //-infinity负无穷 /浮点数值范围 alert(Number.MIN_VALUE);//最小值 alert(Number.MAX_VALUE);//最大值 aler
浮点数为什么不精确？
yygr的博客
02-21 1035
https://blog.csdn.net/renwotao2009/article/details/51637163 浮点数为什么不精确？ 其实这句话本身就不精确， 相对精确一点的说法是： 我们码农在程序里写的10进制小数，计算机内部无法用二进制的小数来精确的表达。 什么是二进制的小数？ 就是形如 101.11 数字，注意，这是二进制的，数字只能是0和1。 101.11 就等于 1 * 2^2 +0 2^1 + 12^0 + 12^-1 + 12^-2 = 4+0+1+1/2+1/4 = 5.75 下面的
【Lua坑】浮点数问题
两水先木示的博客
02-04 2750
浮点数精度问题： 例如：local number = 0, 一直加一个分数例如 1/3 ，现实情况中 1/3 * 3 = 1，但是计算机会识别为 1/3 = 0.3333333... 然后这3个数相加，得出0.9999999999... 因此 1/3 * 3 近似等于1 此时如果你代码写了 number >= 1.0 是不成立的， 但是你打印的number 却是 1.0， 因为lua的打印会将 0.9999999...四舍五入为 1.0 打印出来给你看。 真实数据打印方法可以用 m...
浮点数计算注意精度问题
mixi＝小六
01-05 1307
最近看书看到一个简单的题， 问，下面程序运行结果是什么？ #include int main(int argc, char *argv[]) { double i; for (i = 0; i != 10; i += 0.1) { printf("%.1f\n", i); } return 0; } 主观以为是输出0～10之间一位小数点的小数 但不是，这是个
Lua获取C++中的double float不精确
u012310106的博客
10-23 633
Lua向C++中传输数值，C++部分取为float类型时数据时准确的(此时不能在linux gdb 断点 p 出数据，否则数据也会不准确，而实际时准确的。) 而Lua从C++中获得float 或者 double数据时，会出现 float 108.032 获得到Lua中时 变为 108.03197994 之类的变化，此时需要调用 --从C++来的各类浮点数 都要经过这个函数的精度转化 fun...
js判断输入是否为数字、正整数、浮点数等的函数
热门推荐
gaogao0603的专栏
01-26 2万+
js判断输入是否为数字、正整数、浮点数等的函数<br /><br /><br />首先是判断是不是数字isNaN()var s = $(this).val();<br /> if(isNaN(s)) {alert("不是数字");$(this).focus()}<br />1.下面列出了一些判读数值类型的正则表达式 <br /><br /> "^//d+$"　　//非负整数（正整数 + 0） <br /> "^[0-9]*[1-9][0-9]*$"　　//正整数
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值