关于运算顺序影响计算机精度的那些事

最新推荐文章于 2021-07-26 14:15:35 发布
最新推荐文章于 2021-07-26 14:15:35 发布
阅读量483 收藏
点赞数
分类专栏： C++ 误差 文章标签： c++ 误差处理 数据分析
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/fgjargfkm/article/details/107111189
版权

关于运算顺序影响计算机精度的那些事

第一张图：
第一张图片
在这里插入图片描述
第二张图：
在这里插入图片描述
在这里插入图片描述
解释一下：上图的式子是求椭球体理论值的式子。我赋了相同的值，但是得到了差距很大的两个不同结果。
相信很多大佬早就明白，这是误差。我知道一定会产生误差，但是产生这么大的误差我是没想到的。我用的float，如果用double是不是会好一点呢？（仅仅是推测，无根据，待验证）

fgjargfkm
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
排序和高精度算法总结
weixin_43492045的博客
12-31 232
用时一周多，再接再厉
计算几何中的精度问题（转）
weixin_30765577的博客
05-09 409
计算几何头疼的地方一般在于代码量大和精度问题，代码量问题只要平时注意积累模板一般就不成问题了。精度问题则不好说，有时候一个精度问题就可能成为一道题的瓶颈，简直“画龙点睛”。这些年的题目基本是朝着越来越不卡精度的方向发展了，但是也不乏一些%^&%题#$%$^，另外有些常识不管题目卡不卡，都是应该知道的。今天我就开膛回顾下见过且还有印象的精度问题，由于本人见识和记忆均有限，望各位大神瞄过后不吝...
EXCEL求和时精度问题
aifuliwade的博客
03-03 2017
今天使EXCEL求和时发现算出来是67，但是excel显示是66，比较纳闷。最后发现是小数点精度的问题，将小数设置为数字类型，小数点后0位数字，但是求和时与整数的求和结果不同。 图一：第一列是原数据，第二列是将第一列设置为数值类型，小数点后0位，第三列为单独输入的整数，结果一个66，一个67. 解决办法： 改变结果：
乙级1049，浮点数相乘顺序影响精度
qq_42867831的博客
03-24 114
Ac的代码 #include <cstdio> using namespace std; const int N=100010; double a[N]; int main(){ int n; scanf("%d",&n); double v,ans=0; for (int i = 1; i <=n ; ++i) { sca...
计算机组成原理讲义运算器(共48张PPT)精选.pptx
最新发布
11-15
计算机组成原理中的运算器是计算机硬件系统的核心组件之一，它负责执行基本的算术和逻辑运算。本讲义主要探讨了加减法、乘法、除法、浮点数以及十进制数的运算和其实现机制。 首先，加减法运算在计算机中是基础运算...
易语言高精度四则混合运算模块5.1
07-18
总之，“易语言高精度四则混合运算模块5.1”是一个强大的工具，它不仅提供了高效的高精度计算功能，还为开发者和学习者提供了宝贵的源码资源，有助于提升编程能力和理解计算机科学中的高级概念。通过深入研究和实践...
Python双精度浮点数运算并分行显示操作示例
09-21
Python是一种广泛使用的编程语言，它支持多种数据类型，包括浮点数。浮点数在计算机科学中用于...在实际编程中，理解浮点数的运算和显示方式是非常重要的，特别是在处理精确度要求较高的数学计算或者数据分析任务时。
计算机组成原理实验报告-运算器组成.pdf
09-30
ALU是运算器的核心部件，其设计直接影响到计算机的运算速度和精度。ALU由一系列组合逻辑电路和时序逻辑电路构成，用于处理二进制数据。它能执行基本的二进制算术运算（如加法、减法）和逻辑运算（如与、或、非），...
计算机语言B第2章基本数据类型与运算共77页.pdf.zi
10-31
《计算机语言B第2章基本数据类型与运算》是一份深入探讨编程基础知识的重要文档，共有77页，涵盖了计算机语言中的核心概念。本章主要关注的是编程中的基本数据类型及其运算，这对于任何初学者或者想要深入理解编程的...
数据转换/信号处理中的影响ADC总精度的因素
10-19
前面我们确定了模数转换器 (ADC) 的分辨率和精度间的差异。现在我们深入研究一下对ADC总精度产生影响的因素，通常是指总不可调整误差 (TUE)。     曾经想到过ADC的TUE技术规格中的“总”代表什么吗？它是不是简单到将ADC数据表的所有DC误差技术规格（即偏移电压，增益误差，INL）相加，还是要更复杂一些？事实上，TUE是总系统误差相对于ADC工作输入范围的比率。     更确切地说，TUE是单位为最低有效位 (LSB) 的DC误差技术规格。最低有效位 (LSB) 代表ADC的实际和理想传递函数之间的最大偏离。这个技术规格假定未执行系统级校准。在概念上，TUE是ADC运行方式中以
程序计算时，精度问题
yzcwansui的博客
08-11 734
浮点数 浮点数都是近似精确，用浮点数表示的数字很难精确的表示该数字本身的值，会有或大或小的偏差。这也很好理解，因为浮点数其实是用科学计数法来表示数字。float类型和int都是32-bit，因此它们能表示的数字的数量是一样的。但是浮点数增加了其所表征数的范围，因此分辨率会相应的下降。这里给出一个例子 too_small = [] just_right = [] too_large = []...
编程计算机器误差的值,数值计算编程中务必要注意【数值不稳定】问题
weixin_33308577的博客
07-22 677
本帖最后由 coolrainbow 于 2018-9-22 12:42 编辑问题的提出昨天帮人查一个程序的bug。是一个看起来无害的纯数值程序，给定一个x，算出 f(x)。然而在x接近0的时候，给出了十分离谱的结果。最后发现是使用的公式数值不 稳 定 造成的。这种bug常常难以识别，故这里记录下来，供大家参考。程序中真正的f(x)非常复杂，这里为了简明，我们将问题的精华提取出来。f(x)类似于下面...
EXCEL求和的精度问题
心的港湾
09-20 3003
这是我前段时间在sapkevin.cublog.cn上写的博客，现转载在此。 有同事来问个EXCEL求和的问题，他觉得很奇怪，以前没有发生过，或者没有注意到，而这次让他反复计算了很长时间不解其原因。 故障现象： 他有个任务清单文件，其中有一列是金额，EXCEL自动求和时为XXX.68，而他自已计算时，却是XXX.70。他以为是自己的计算器输入错误，反复计算了几次，都是一个答案。他也检查了EX
浮点数计算精度： 先乘后除 vs 先除后乘 ，前者精度高
tiangej的专栏
03-26 4334
下面两行代码，理论上结果应该一样，但是实际不同：             trace(Math.round(0.935 * 100) / 100);           trace(Math.round(0.935 /0.01) *0.01); 结果： 0.94 0.9400000000000001 原因： ================================
计算机的运算顺序,【用代数讲计算机科学】操作符运算顺序
weixin_39703561的博客
07-26 832
你可能注意到了求值单元只有两个槽You may have noticed the evaluation block only has two slots.那如果我想求1+2+3呢What if I want to add 1 plus 2 plus 3?可以把每个槽当做一个输入框Think of each of these slots as an input.求值单元的每个输入框能输入一个值 比如...
java打印混合运算答案_大话Java混合运算规则
weixin_28701593的博客
02-19 108
重要规则：//byte short char 做混合运算时，先各自转换为 int 类型，再做运算//以下在编译期就出错，因为编译器只检查语法，jvm不允许 int 转换为 byte(丢失精度)，虽然结果为30，但是运算是在运行期byte a = 10;short b = 20;byte c = (a + b); //报错system.out.println(c);结论：关于基本数据类型转换规则：1...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值