浮点数相减问题

最新推荐文章于 2023-04-04 16:14:33 发布
最新推荐文章于 2023-04-04 16:14:33 发布
阅读量653 收藏
点赞数
分类专栏： java 文章标签： java
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_45004609/article/details/128043363
版权

对于浮点数相减，我们若直接进行相减会造成误差，如图：
直接相减结果
可以看到，3.14 减去 1.56 的结果应该是 1.58 ，而得出的结果与我们期望的结果存在一定误差，虽然这个误差很小，但是作为理工科出身，我们要本着是1就是1，是2就是2的原则严谨态度去看待。

解决方法：先将浮点数转为整数进行计算，得出结果后再转为原先的浮点数，修改后的代码如下
修改后的代码
尽量将浮点数相减转化为整数相减，运行结果正确：
运行结果

.予安
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
解决JS浮点数(小数)计算加减乘除的BUG
05-23
解决JS浮点数(小数)计算加减乘除的BUG
JAVA浮点数计算精度损失底层原理与解决方案
08-31
浮点数计算在Java中常常会遇到精度损失的问题，这是由于计算机硬件的限制以及浮点数在二进制表示上的特性所导致的。在Java中，浮点数类型包括单精度浮点数`float`（4字节，32位）和双精度浮点数`double`（8字节，64...
STM32F4x,UCOSII, 浮点运算异常，printf打印浮点异常的解决办法
hongxy0635的博客
04-04 1103
先以为是STM32F05，没有开启FPU浮点运算，（确实没开启），但找了半天也没正确的开启。问题描述：任务中 进行浮点运算，然后printf打印结果，发现是000或其他异常值。然后跑裸机程序，浮点运算及printf正常。应该是ucosII的问题，继续找，终于发现有人指出是默认堆栈不是八字节对齐，然后解决了···系统：UCCOSII, keil MDK。芯片平台：STM32F405，
浮点数的加减法运算过程详解（面向小白的）
lisheng19870305的专栏
02-20 1万+
浮点数的加减法运算过程详解（面向小白的） 一. 浮点数在计算机内的表示 二. 浮点数的加减运算步骤 第一次写博客，难免有疏漏之处，如果有错误请批评指正，感谢！ 对于浮点数的加减运算，书上写的名词太多，例子过程不太详细，面对查到的博客也有这种感觉，想明白后准备写个博客加深一下印象，也可能帮助到其他人。 一. 浮点数在计算机内的表示 1.定点数：小数点固定在某个位置不动的数据。 有两种可能的表示方法（第一种为整数，第二种为带小数点的小数）： 第一种：直接举例： 1××××××××.（纯.
浮点型数和整型数之间的运算小问题~
Give_me_the_who的博客
01-18 2万+
      在运算时候，一个整型数与一个浮点数进行计算时，他的返回结果是浮点型，（你可以理解这个整型数先被编译器变成了浮点型数，再和那个浮点型数进行计算），如果你把这个浮点型的结果在赋值给一个整型数，那么这个结果就会再转换成整型数(转换结果只取了浮点型的整数部分)，如果你直接输出一个整型数与一个浮点型数的运算结果，那么他的输出就是浮点型的。 所以这个细节要注意。（加减乘除都一样，我都试过了，举一...
项目采坑日志——Java浮点类型数据进行加减运算出现精度丢失问题
理想主义的花最终会盛开在浪漫主义的土壤里，我的热情永远不会熄灭在现实的平凡之中，我们终将上岸，阳光万里。
09-21 958
在项目开发过程中，有一个需求是计算章节的总时长，由于是一个树形接口每一个叶子节点上都需要进行其下所有子节点的时长累加。最后结果出现了，进度丢失的问题，在系统前端界面设置了数据的入参精读为小数点后一位，但是在后端返回的数据却出现了丢失精度的问题。如图： 出现这样的问题，最终通过bug排查，最后在发现问题出现在后端，后端通过使用浮点型（double、float）数据进行的时长计算。那么问题就定位到了，使用浮点型数据进行加减运算很可能出现问题。通过查阅资料发现，的确使用浮点型数据进行运算会出现精度丢失的问题。由于
js浮点数精确计算(加、减、乘、除)
10-26
本篇文章主要介绍了js浮点数精确计算(加、减、乘、除) 需要的朋友可以过来参考下，希望对大家有所帮助
用VHDL语言实现浮点数运算
01-02
对于减法，可以通过加法来模拟，根据符号位决定是相加还是相减。 3. 规格化：规格化是为了确保浮点数的尾数保持在一定的范围内，通常是0.5至1之间（对于二进制系统）。在加法运算中，如果结果大于1，需要右移尾数并...
C语言常见问题
03-13
18. 浮点数比较的可靠性：浮点数比较可能存在精度误差，一般不推荐用于精确比较，可使用误差范围进行比较。 19. 数字型变量的最大值：使用相应的类型限制宏，如INT_MAX、LONG_MAX等。 20. 不同类型算术运算：不同...
浮点数减法运算
05-26
linux下实现的浮点数精确计算，可以实现小数位借位
浮点数加减法的运算步骤
热门推荐
小象吃西瓜
05-14 5万+
1. 浮点加减法的运算步骤 　　前面已讲到,浮点数经常被写成如下的形式： 　　　　　　　　X　=　Mx * 2Ex 　　其中Mx为该浮点数的尾数,一般为绝对值小于1的规格化的二进制小数,机器中多用原码（或补码）形式表示。Ex为该浮点数的阶码,一般为二进制整数,机器中多用移码（或补码）表示，给出的是一个指数的幂，而该指数的底常用2、8或16,我们这里先以2为底作例子进行讨论。 　　浮
解决两个浮点型数字相加、相减精度丢失问题
qq_43639075的博客
11-06 2629
两字数据相加精确处理 /** * @param {*} 数字1 * @param {*} 数字2 * @description 两字数据相加精确处理 */ export const addNum = function () { let args = arguments// 获取所有的参数 let d = 0// 定义小数位的初始长度，默认为整数，即小数位为0 let sum...
计算机组成原理浮点数加减
狗蛋的博客
12-06 942
浮点数加减流程图 Created with Raphaël 2.2.0对阶尾数求和尾数规格化双符号位不一致右移舍入满足规格化溢出判断并输出是否需要左移左移yesnoyesnoyesno 对阶 两个浮点数阶码换算成一致的，并用二位符号位表示，即正数为00，负数为11. Γ(x)=0.1101∗201.Γ(y)=−0.1010∗211. \Gamma(x)= 0.1101* 2^{01}. \Gamma(y)= -0.1010* 2^{11}. Γ(x)=0.1101∗201.Γ(y)=−0.1010∗211.
浮点数运算误差解决
weixin_44541467的博客
06-05 1万+
在进行数据计算时，小数也就是浮点数拥有不低的出场率。在常人看来，机器也就是计算机的数据运算是不会出错的，没错，计算机进行数据运算的确不会犯错，但小数运算的误差是免不了的。 来试一试。 在JS中写上console.log(0.3-0.1);输出到控制台 是不是出乎意料，简单的0.3-0.1=0.2这样一道小学算术都没算对。 在对于浮点数的四则运算，几乎所有的编程语言都会有类似...
C/C++学习笔记一（整型/浮点型）
炫目萧萧的专栏
07-16 732
工作中经常使用到C/C++，为对C有个比较深刻的了解，重新拾起学习C的任务。在看书的同时，记录下思考的过程，也记录下重要的知识点。从数据的存储开始计算机中的数据都存储在内存中，这就离不开各种数据类型在内存中的编码方式。从最简单的整型开始聊聊，整型数据在内存是如何编码以及必须要mark的坑。整型中的有符号以及无符号无符号即数据不能表示负数。 有符号即数据的最高位用来表示正负。如十六位机器中： un
浮点数相减为什么要大于0.0001C++
最新发布
06-06
浮点数相减存在精度误差的问题，这是由于浮点数的存储方式和计算方法决定的。在C++中，浮点数的精度误差一般控制在小数点后6~7位，当两个浮点数相减的结果小于这个精度误差时，可能会得到不准确的结果。因此，为了避免这种情况的发生，一般会将浮点数相减的结果与一个较小的数（如0.0001）进行比较，以确保结果的准确性。

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值