浮点数非精确数，作比较运算时需谨慎！

最新推荐文章于 2021-06-28 09:50:27 发布
最新推荐文章于 2021-06-28 09:50:27 发布
阅读量517 收藏
点赞数
分类专栏： 编码易错点 文章标签： 编程 计算机 c 编程语言
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/love125/article/details/46742595
版权

在C、Python等编程语言中，都会有float这一数值类型，使用时要注意.


由于在计算机内部，是不存在分数之说的，所以1/3会被表示为0.33333333，小数部分3的个数是不可能完全确定的，所以在代码编写中，若要表示1/3*2  等于2/3


if（1/3*2 == 2/3） 的方式是不可取的


应该用 if(abs(1/3*2 - 2/3) < 0.0..01)   来判断，用0的个数来表示你想要的精度即可！

嘉永
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
求解2
pyRPG的博客
11-12 597
运行Kodu时又发生了一个错误： 有关调用实时(JIT)调试而不是此对话框的详细信息， 请参见此消息的结尾。 ************** 异常文本 ************** System.ArithmeticException: 函数不接受浮点非数字值。 在 System.Math.Sign(Single value) 在 Boku.Base.BaseChassis.App...
Java中如何正确进行浮点数运算
最新发布
08-24
例如，某些看似简单的浮点数运算可能会产生非预期的结果，因为它们实际上是近似值而非精确值。以下是一个简单的示例，展示了浮点数运算的不精确性： ```java float f1 = 0.1f; float f2 = 0.2f; float result = f1 ...
浮点数Number NaN isNaN()非数函数
哈里·雪利博客
12-29 1495
无穷（正负无穷） alert(Number.POSITIVE_INFINITY);        //infinity正无穷 alert(Number.NEGATIVE_INFINITY);    //-infinity负无穷 /浮点数值范围 alert(Number.MIN_VALUE);//最小值 alert(Number.MAX_VALUE);//最大值 aler
不可将两个浮点数 直接做 相等比较判断
超级张大侠的博客
06-04 1631
a=0.333，b=0.333， if(a==b) { } 能这样用吗？看起来没问题，其实问题很大。 浮点数和double型数在计算机中并不能精确存储，所以看似相等，但是在计算机中存储的二进制不一定相等，所以浮点数的比较是否相等，一般是让两个浮点数相减求绝对值，绝对值在某个范围内就认为相等，至于之歌范围是多大也是自己决定的，还有一种办法，浮点数乘整数倍数，然后转化为整型，再去做比较，函数如下： u8 FloatEqual(float f1,float f2) { u8 res = 0; .
判断浮点型是否是非数值 isnan
u013245162的博客
03-20 1052
最近做Kalman滤波的时候不小心越界了，于是就出现了非数值。 标准提供了类似于isnan、isfinite、isinf、isnormal、fpclassify分别用于判断是非数(NaN)值、有限制、无穷值、正常数值等. boolisnan(floatarg); (1) (C++11 起) boolisnan(doublearg); (2) (C++11 起) boolisnan(longdoublearg); (...
不同运算机制下FFT计算精度分析
10-16
浮点数由符号位、指数和尾数三部分组成，这种格式允许更精确地表示接近0的小数和非常大的数，从而在大多数情况下能获得更高的计算精度。然而，浮点运算的精度受浮点格式位宽的限制，不同的位宽（如单精度、双精度）...
FMath2.rar_定点数
09-14
此外，定点数运算通常比浮点数慢，因此在性能敏感的代码段中需要谨慎使用。 "www.pudn.com.txt"这个文件可能是关于该模板类的来源或版权信息，也可能包含一些使用说明。在实际应用中，开发者需要阅读这个文件来了解...
浮点数精度问题
05-25
浮点数精度问题在计算机科学和编程中是一个常见的主题，特别是在进行数学计算和数据处理...通过选择合适的数据类型、使用高精度库、设置比较容差以及谨慎地格式化输出，我们可以有效地管理和减少浮点数精度误差的影响。
python执行精确的小数计算方法
09-19
虽然`decimal`模块提供了精确计算的能力，但要注意，处理大数和小数相加时，仍需谨慎，因为即使使用`decimal`，也可能因为中间步骤的精度损失而引入误差。例如，下面的代码展示了使用内置`sum`函数和`math.fsum`函数...
判断输入是否为浮点数
06-10
判断输入是否为浮点数
为什么浮点数不能用“==”比较？
luoro的博客
06-28 2898
我们用一个for循环对0.1进行9次相加赋值给a;再将0.1*9赋值给b;按道理来说，用“==”对a与b进行判断。a应该是等于b的，而事实是这样吗？好像不是的 public class myclass { public static void main(String[] args) { double a=.0; for(int i=1;i<=9;i++) { a += .1; } double b=
关于浮点数计算注意事项
Puckers的专栏
03-11 444
之前在工作中遇到过浮点数的计算，当时用的double类型，2.0-1.1，结果为0.8999999999999999，并没有想象中返回0.9。 根据java核心编程书中（P35)，浮点数值采用二进制系统表示，而在二进制系统中无法精确表示分数1/10，就像十进制中无法精确表示1/3一样。如果需要在数值计算中不含有任何舍入误差，就应该使用BigDecimal类，对于具体的BigDecimal类的加减
常用的数学函数以及浮点数处理函数
weixin_33858249的博客
06-26 2194
在编程中我们总要进行一些数学运算以及数字处理，尤其是浮点数的运算和处理，这篇文章主要介绍C语言下的数学库。而其他语言中的数学库函数的定义以及最终实现也是通过对C数学库的调用来完成的，其内容大同小异，因此就不在这里介绍了。C语言标准库中的math.h定义了非常多的数学运算和数字处理函数。这些函数大部分都是在C89标准中定义的，而有些C99标准下的函数我会特殊的说明，同时因为不同的编译器下的C标准库中...
浮点数不精确的原因 以及 IEEE754浮点数的表示方法
gdhgr的博客
03-17 4616
浮点数为什么不精确？其实这句话本身就不精确， 相对精确一点的说法是： 我们码农在程序里写的10进制小数，计算机内部无法用二进制的小数来精确的表达。什么是二进制的小数？ 就是形如 101.11 数字，注意，这是二进制的，数字只能是0和1。101.11 就等于 1 * 2^2 +0 *2^1 + 1*2^0 + 1*2^-1 + 1*2^-2 = 4+0+1+1/2+1/4 = 5.75下面的图展示了...
lua浮点型精度问题的讨论
酒馆笔记
12-12 7046
前段时间，测试同学报了一个BUG，游戏比分没办法严格精确到小数点后面两位。 策划的需求是，如果数字小数点后面超出两位，直接进行数字截取前两位，不能做任何四舍五入之类的操作。例如，1.9999必须为1.99，不能变成2.00。
浮点数进行比较
谢耀眼
08-22 1429
boolean equal(double num1, double num2) { if (Double.isNaN(num1) || Double.isNaN(num2) || Double.isInfinite(num1) || Double.isInfinite(num2)) { return false; } if (...
GMP大数运算库中文详细教程
"GMP大数运算库中文使用教程提供了详细的GMP库的安装和使用方法，适合不熟悉英文文档的用户。" GMP（GNU Multiple Precision Arithmetic Library）是一个高效的、可移植的C语言实现的大数运算库，适用于处理超过...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值