亲历浮点数计算精度导致错误

最新推荐文章于 2021-10-15 17:40:01 发布
最新推荐文章于 2021-10-15 17:40:01 发布
阅读量903 收藏
点赞数
分类专栏： 编程综合
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/buck84/article/details/80324227
版权

v0->v1是一条朝右下的线段，用下面代码计算点v3在直线上方还是下方
v0x = -254.923599
v0z = 365.348907
v1x = -249.52359
v1z = 360.148895

v3x = -251.361771
v3z = 361.919006
x = v0x + (v1x-v0x)*(v3z-v0z)/(v1z-v0z)
y = v0z + (v1z-v0z)*(v3x-v0x)/(v1x-v0x)
print(x,y) #-251.36178101398212 361.9189963568999
显然(x,v3z)在线段右边，因为x>v3x
而(v3x,y)在线段下面，因为y

buck
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
Python浮点型（float）运算出错了怎么办？本文带你全方面解决浮点型
weixin_50181817的博客
09-25 4976
这篇文章主要介绍了Python浮点型（float）运算结果不正确的解决方案，帮助大家更好的利用python进行运算处理，感兴趣的朋友可以了解下 一、问题说明 以前对浮点数运行没有没有太在意。昨天同事要求把百分比结果保存到文件上，然后就以保存1位小数的形式给他保存了。 但是今天同事运行时问能不能统一以一位小数的形式保存，当时觉得很奇怪昨天就是以一位小数形式存的怎么还会提这种要求呢。 其给回的截图确实是部分是一位小数的，但一部分是很长的。查看代码都统一如下格式： 进行步骤拆分，发现round方法没有问题，.
计算机无法准确计算浮点数,浮点数计算异常原因(转)
weixin_42308644的博客
07-08 2439
光棍节加长版转:http://justjavac.com/codepuzzle/2012/11/11/codepuzzle-float-who-stole-your-accuracy.html代码之谜(五)- 浮点数(谁偷了你的精度？)如果我告诉你，中关村配置最高的电子计算机的计算精度还不如一个便利店卖的手持计算器，你一定会反驳我：「今天写博客之前又忘记吃药了吧」。你可以用最主流的编程语言计算 0...
浮点数陷阱
Grow_up_Dream的专栏
08-22 338
#include #include int main() { double i; for(i=0;i<0.8;) i=i+0.1, printf("%.1lf\n",i); system("pause"); return 0; }   程序运行结果
浮点数计算常见错误1.#INF, 1.#IND和#QNAN
novanova2009的博客
04-24 9255
编程时，可能会从您的代码中产生某些错误条件。如果编译器捕获任何编译错误，它将停止编译并告诉您错误所在位置。编译器还可能会对某些构造发出警告，这些构造可能会或可能不会在运行期间给您带来问题。 以下是您作为程序员在执行浮点算术（任何加法、减法、乘法和除法）时应注意的一些浮点条件，即（QNAN 和 SNAN）条件和错误。 正数 负数 意义 1.#INF -1.#INF Infinity无穷大 1.#SNAN -1.#SNAN Signalling NaN .
Python- // 算术运算符的精度问题
m0_51029108的博客
10-15 1192
运用// 运算符试图计算组合数???????? ????，但是由于浮点数除法时精度问题会导致结果错误。（此处举例计算组合数C5 2） 源代码如下： # // 运算符 def cni1(n, i): minNI = min(i, n-i) result = 1 for j in range(0, minNI): result = result * (n-j) // (minNI-j) return result print(int(cni1(5, 2)..
浮点数精度问题
技术小屋
03-24 441
怪异代码 在Chrome控制台键入如下代码： 0.1 + 0.2 会发现结果并不等于 0.3，而是 0.30000000000000004 浮点数精度问题 其实这不是一个bug，很多其他编程语言都有这个问题，这是因为计算机保存数据都是转化成0、1进行保存。浮点数会转换成二进制保存，问题就在于保存的时候丢失了精度。 浮点数转化成二进制 首先我们来了解一下浮点数如何转换成二进制：...
浮点数计算中的精度丢失
甜筒八部 的专栏
06-20 534
浮点数运算为什么会丢失精度 在内存中存储的浮点数方法格式分别是 float 符号位(1bit) 指数(8 bit) 尾数(23 bit) double 符号位(1bit) 指数(11 bit) 尾数(52 bit) 其中指数也有正负之分，有一个bit位是符号位。 于是，float的指数范围为-128 +127（ -2^7= -128 —— 2^7-1=127） ; 而double的指数范围为-1024 +1023（ -2^10= -10...
c语言浮点数高精度加法计算
07-27
c语言浮点数高精度加法计算
JAVA浮点数计算精度损失底层原理与解决方案
08-31
总结来说，Java中的浮点数计算精度损失是由浮点数的二进制表示方式决定的，而要解决这个问题，最有效的方法是使用`BigDecimal`类进行高精度计算。在编程时，应根据实际需求选择合适的数值类型和计算策略，确保计算...
解决js浮点数运算的精度问题
01-08
在javascript中进行运算的时候经常会出现浮点数的问题，导致运算结果不准确 比如：0.1 + 0.2 = 0.30000000000000004 完整demo及解决方案如下： demo .num-tags, .total-tag { text-align: center; } i { ...
浮点数计算为什么会出错
07-22
计算机之所以叫"计算"机就是因为发明它主要是用来计算的，"计算"当然是它的特长，在大家的印象中，计算一定是非常准确的。但实际上，即使在一些非常基本的小数运算中，计算的结果也是不精确的。
解析C++浮点数无效值的定义与无效值判定的小结
12-31
在实际计算中可能会出现浮点型的无效数据，格式化输出到文件中内容为1.79769e+308，输出到界面就是很大一串数据。这两种方式无论哪种在阅读和查找时就不是很方便。在开发中遇见浮点型数据无效值得判定。 无效值定义如下：#define InvalidDouble *(double*)(“\xff\xff\xff\xff\xff\xff\xef\x7f”)double  price;………（计算步骤省掉）price=GetPrice(); //获取数据 通过下面方式对浮点型的无效数据进行判定方法(price==InvalidDouble)?0:price
JavaScript解决浮点数计算不准确问题的方法分析
10-18
JavaScript中的浮点数计算不准确问题源于其内部的二进制表示方式，导致某些浮点数无法精确存储，从而在进行运算时出现误差。在计算机系统中，浮点数通常按照IEEE 754标准存储，双精度浮点数（JavaScript默认使用）的...
浅谈c# 浮点数计算
08-29
在C#编程语言中，浮点数计算是一个常见的任务，但同时也存在一些潜在的问题，主要源于计算机对浮点数的内部表示和计算精度的限制。本文将深入探讨这些问题，并提供解决方案。 首先，让我们理解为什么在C#中0.1 + ...
浮点运算结果出现误差原因分析及解决方案
weixin_30569153的博客
05-17 2974
如下C#代码： float a = 0.65f; float b = 0.6f; float c = a - b; 此时c为多少？ 0.05？错误！ 此时c为0.0499999523！ 为什么？ 其根本原因是计算机所使用二进制01代码无法准确表示某些带小数位的十进制数据。 下面我们来分析下： 我们知道将一个十进制数值转换为二进制数值，需要通过下面的计算...
浮点错误
热门推荐
zhengqiang的博客
08-26 1万+
转载部分： 浮点错误: 您的程序运行时发生浮点错误，比如遇到了除以 0 的情况 所以发生浮点错误应该考虑程序中： 是否可能出现了一个数除以0的情况 是否可能出现了一个数取余0的情况 是否发生了数据溢出而导致的除以0或者取余0的情况 我的错误是 用int类型除int类型 正确的做法是 先把被除数转换为 double类型 比较简单的办法是 乘1.0 如： nod[i].ratio...
浮点数精度问题与使用注意点
体验，珍惜
03-27 3051
“要想为某些正确选择数的精度具有重要意义的问题选择一种正确的精度，就需要有对浮点计算的深入理解。如果你并没有这种理解，那么给你一个忠告是花时间去学习，或者就选择double并期待着能得到最好的结果”
浮点数计算注意精度问题
mixi＝小六
01-05 1310
最近看书看到一个简单的题， 问，下面程序运行结果是什么？ #include int main(int argc, char *argv[]) { double i; for (i = 0; i != 10; i += 0.1) { printf("%.1f\n", i); } return 0; } 主观以为是输出0～10之间一位小数点的小数 但不是，这是个
float浮点数计算精度
最新发布
09-15
在计算机中，浮点数是以二进制形式存储的，而不是十进制。...总结起来，浮点数计算精度问题是由于二进制表示法无法精确表示某些十进制分数导致的。为了避免这个问题，可以使用BigDecimal类进行高精度的十进制运算。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值