为什么double型的0.29*100让后结果是28.999999999999996

最新推荐文章于 2022-09-09 10:58:37 发布
最新推荐文章于 2022-09-09 10:58:37 发布
阅读量1.3k 收藏 3
点赞数 1
分类专栏： javascript
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_34645412/article/details/104632427
版权

开发遇到的很奇怪的问题

0.35*100 =35

0.29*100=28.999999999999996

查了一些资料 都说是计算机存储问题。对float或double有这样的情况。

前端js解决方式

parseFloat((0.29*100).toPrecision(12))  //29

ps：计算尽量放在后台进行，前端失精太严重

 

 

傻小胖
关注
  • 1
    点赞
  • 踩
  • 3
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
JS中0.28*100, 0.29*100 和 0.28/100 得到的值精准度问题
qq_43351249的博客
01-06 690
包括0.07*100=7.000000000000001, 2.9/100=0.028999999999999998等等 场景还原: 乘法:  0.28和0.29乘100都没有得到预期的值. 除法: 0.28除100没有得到预期的值, 0.29正常, 但是2.9/100依然有问题.   原因: 浮点数不能直接进行相等比较, 计算机中是采用近似值来保存浮点数的，当...
关于python,C++等浮点数的数据精度问题解决办法（如int(0.29*100)不等于29，3.8*3.9=14.819999999等等）
a1486843516的博客
08-07 1496
简单来说只要使用IEEE_754标准来存储浮点数的语言都存在这种问题，出现的原因就是小数在转换成二进制的过程中由于位数的限制不能完全表示这个小数导致精度丢失。 double型的0.29*100=28.9999999...；或是0.14*100=14.0000...000001 可以用round()四舍五入 用法如 double a=0.14; cout<<round(a*100); 而round(a*100)此时便等于14。 ...
提问：为什么整数乘于0.01小数会变成很多小数？java+js
liu_chenglong的博客
09-09 676
提问：为什么整数乘于0.01小数会变成很多小数？java+js。这时问题出现了，当出现如 23.40 等金额时，最后结果是：23.400000000000002。原理就是将金额及其小数部分，转成int类型，然后还原小数位。使用Java结果同。
double数值乘以100后精度增加的问题
m0_37791204的博客
04-23 3192
问题代码: Double dou = Double.parseDouble("77.10")*100; String str = dou.toString(); System.out.println(str); //7709.999999999999 System.out.println(str.substring(0,dou.toString().indexOf("."))...
doublestar:在golang的path.Match和filepath.Glob中实现对双星（**）匹配的支持
05-12
路径模式匹配和globbing支持doublestar （ ** ）模式。 关于 doublestar是路径模式匹配和关联的实现，并支持“ doublestar”（又称为globstar： ** ）模式。 双星模式会递归地匹配文件和目录。 例如，如果您具有...
java-16位内存数据转化为double型
11-02
4. **解析并转换为double**：最后一步是使用ByteBuffer的方法，如`getDouble()`，将字节序列转换为double值。 下面是一个简单的示例，展示如何在Java中将十六进制字符串转换为double： ```java import java.nio....
java double：双精度浮点型.txt
最新发布
10-04
java double：双精度浮点型
double转换成string型.pdf
10-01
double转换成string型.pdf
jisuanqi.rar_double精度
09-23
4. **控制浮点数的显示**：在输出double值时，可以使用特定的格式设置函数（如C++中的`std::setprecision`）来控制小数点后的位数，以更好地展示结果。 压缩包中的文件可能包含了示例代码来演示这些问题和可能的...
js如何处理小数失真的问题
a15240780264的博客
12-29 717
例如：const str=parseFloat((0.29 * 100).toFixed(2)) 结果：0.29 不会是28.999999999999996，使用parseFloat((0.29 * 100).toFixed(2))就可以处理小数点失真
少见多怪--Js中的0.29之怪现象
爱我中华之笔耕不缀！
12-18 523
                  少见多怪--Js中的0.29之怪现象   今天遇到一个超级奇怪的问题，就是在javascript中0.29 * 100等于多少的问题。  &lt;script language="javascript"&gt;    var test = 0.29 * 100;    alert(test);  &lt;/script&gt;  估计很多人认为是29,可事实上并...
展示百分比*100后数据精度问题
lotte
10-26 531
for example 要显示29% 返回值0.29 0.29*100=>28.999999999999996 此时百分比展示有问题 28.999999999999996% 为了解决精度问题引用toPrecision()方法 此方法接收一个参数 toPrecision(num) 方法可在对象的值超出指定位数时将其转换为指数计数法。 参数 描述 num 必需。规定必须被转换为指数计数法的最小位数。该参数是 1 ~ 21 之间（且包括 1 和 21）的值。有效实现允许有选择.
java double 乘以100_浅谈Java double 相乘的结果偏差小问题
weixin_28756021的博客
02-16 2603
看下面的一段代码的运行结果：public class TestDouble {public static void main(String[] args) {double d =538.8;System.out.println(d*100);}输出结果很意外的不是 53880 而是53879.99999999999解决方法一：538.8*100 用*10*10 替换,才能得到我们想要的结果538....
vue中当数字*100后的计算失误问题:0.3*100得到的结果是229.99999999999997
浩星
07-31 4140
前言： 在做消费类型系统的时候，遇到个问题，是计算机乘法问题得到结果有问题， 比如 : 0.3*100得到的结果是229.99999999999997 原因： 二进制和十进制转换中的限位问题，浮点运算带上点微小的误差是正常现象。 但是对于消费来说，这个问题是很严重的，我们要求的计算不能出现问题， 解决办法： 将以下的方法引入页面methods中，参数是你的数据，（注意：必须Sting类型），然后获取返回的值，就是处理好的数据 还有一点...
Double乘100会丢精度解决
klx502的专栏
12-12 2387
解决： //先保留2位小数 BigDecimal bdc = BigDecimal.valueOf(moneyDouble).setScale(2, RoundingMode.HALF_DOWN); //double*100会丢精度 BigDecimal roundHalfUpBD = BigDecimal.valueOf(bdc.doubleValue() * 100).se...
java double 乘以100,将double乘以100，然后转换为long表示错误的值
weixin_29215969的博客
03-19 1226
小编典典答案似乎都没有涉及 为什么 17.32采取不同的行动。1.为什么发生您看到的17.32和之间的行为差​​异17.33 & 17.31是由于IEEE-754 舍入 规则引起的。应用的舍入规则：摘自Java™虚拟机规范§2.8.1Java虚拟机的舍入操作始终使用IEEE 754舍入到最近模式。不精确的结果四舍五入到最接近的可表示值，并用最低有效位为零的值舍入。这是IEEE754的默认模...
Double 类型运算时的精度问题
会吃猫的鱼的专栏
05-10 1869
double 类型运算时的 计算的精度不高，经常会出现0.999999999999999这样的情况，那么就需要用BigDecimal   它是java提供的用来高精度计算的工具类 下面是对这个类的一个包装，方便使用：   package cn.soft.util; import java.io.Serializable; import java.math.BigDecimal;
写出下面表达式的值，再用程序验证。 1) （20分）99/100*100 99*100/100 99/100.0*100 99/100*100.0 (double)99/100*/100 (double)(99/100*100)
05-26
注意：在 Python 中，整数相除会得到整数结果，如果要得到浮点数结果，需要将其中一个数转换为浮点数。因此，上面的验证程序应该修改为： ```python print(99/100*100) # 输出0 print(99*100/100) # 输出99 print...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值