JavaScript小数精度问题

最新推荐文章于 2024-07-26 11:41:15 发布
最新推荐文章于 2024-07-26 11:41:15 发布
阅读量225 收藏
点赞数 1
文章标签： javascript
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lth002/article/details/137516882
版权
本文解释了JavaScript中0.1+0.2结果为0.30000000000000004的原因，涉及IEEE754标准的64位双精度浮点数存储方式，以及小数位无限循环导致的精度损失问题。
摘要由CSDN通过智能技术生成

经典问题

console.log(0.1 + 0.2); //0.30000000000000004

出现原因：
在这里插入图片描述

js存储数值采用的是IEEE754标准中得64位双精度法，都知道是用二进制来进行存储，但在IEEE754标准中，将这64位分成了三个部分，分别是符号位，指数位，有效位，其中符号位最简单，0表示正数，1表示负数，假如有一个二进制11000，不可能直接这样存储，需要表示位1.1 ✖ 2^4，这个4就会存储在指数位，1.1就会存储在有效位
现在来看0.1在计算机中如何存储
在这里插入图片描述
如上图，小数会✖2，直到小数位变为0停止，但是0.1小数位无限循环了，但是有效位只有52位，所以计算机只能取一个近似得数值，0.2同理，所以0.1 + 0.2相加以后再转化为十进制就已经不是纯正得0.3了

奶昔不会射手
关注
  • 1
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 1
    评论
javascript小数精度丢失的完美解决方法
10-22
下面小编就为大家带来一篇javascript小数精度丢失的完美解决方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
浅谈JavaScript中小数和大整数的精度丢失
10-22
下面小编就为大家带来一篇浅谈JavaScript中小数和大整数的精度丢失。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
javascript小数精度问题
weixin_38930658的博客
09-05 289
小数精度问题 计算机使用二进制存储，每个数字都有一个存储容量，javascript使用IEEE754标准，64位双精度。将其分为三部分符号位（1位）,指数位（11位），有效数（52位） 0.1+0.2= 0.12=0.2 整数部分是0 0.22=0.4 整数部分是0 0.42=0.8 整数部分是0 0.82=1.6 整数部分是1 0.62=1.2 整数部分是1 0.22=0.4 整数部分是0 1.100110011*2·-4 0.1转化为二进制是: 0.0001100110011001100110011
JavaScript小数精度问题 0.1+0.2
卷尾巴
04-30 463
JavaScript是2进制存储的，且存储长度是有限的 0.1+0.2 0.1 转换为二进制 0.1*2=0.2 0 0.2*2=0.4 0 0.4*2=0.8 0 -------- 0.8*2=1.6 1 0.6*2=1.2 1 0.2*2=0.4 0 ------------ 0.4*2=0....
JavaScript小数计算精度问题
Mianbao88l的博客
01-09 510
如果采用直接截取的方式很可能会出现少了0.001的金额。1.在JavaScript计算带有小数的金额时，很容易出现零点几的差距。如果采用的是成10的倍数形式要注意一下某些情况。如果采用先把小数乘10的倍数变成整数的方式，在计算完成后再除以之前10的倍数，这种方式的话建议乘数10的倍数再多一个0。如：4.055参与计算前把它变成40550，不要变成4055，因为它很可能变成上面的情况少了1的精度。
JavaScript浮点数精度问题
weixin_45463061的博客
08-06 3104
只不过在很多其他语言中已经封装好了方法来避免精度的问题，而 JavaScript 是一门弱类型的语言，从设计思想上就没有对浮点数有个严格的数据类型，所以精度误差的问题就显得格外突出。为了验证该例子，我们得先知道怎么将浮点数转换为二进制，整数我们可以用除 2 取余的方式，小数我们则可以用乘 2 取整的方式。像数字，大数字（超出安全数的数字），复数，分数，单位和矩阵。功能强大，易于使用。符号位决定了一个数的正负，指数部分决定了数值的大小，小数部分决定了数值的精度。...
JS计算小数精度问题
qq_44782585的博客
08-26 857
在JavaScript中，处理多个小数相加时，由于浮点数精度问题，直接进行简单的加法运算可能会导致精度丢失。这些方法可以在一定程度上解决浮点数精度问题，但是对于非常大或非常小的数字仍可能存在精度问题。此外，以上只是一种手动处理的方法，在实际应用中可能会比较繁琐。还有一种常见的方法是将小数转换为整数进行计算，然后再将结果转换回小数。使用这些库可以更方便地进行精确计算，并且能够处理更复杂的场景，如乘法、除法等。这些库提供了更强大和易于使用的方法来进行精确计算。一个更好的选择是使用专门处理精确计算的库，如。
Javascript：关于小数精度的问题
听海边涛声
07-04 153
Javascript：关于小数精度的问题
解决JS中小数计算精度问题
AI_dkx的博客
06-27 9410
在JS中为什么会出现 0.1*0.1 不等于 0.01 的问题？遇到了该如何解决？通过了解JS对于数字的存储机制，来解决加法、减法、乘法、除法运算中出现的精度丢失的问题。
8.JS小数精度问题
weixin_43465339的博客
08-23 2156
8.JS小数精度问题 var two = 0.2 var one = 0.1 var eight = 0.8 var six = 0.6 [two - one == one, eight - six == two] 0.2-0.1 //0.1 0.8-0.6 //0.20000000000000007 //答案是[true,false] //要想后者为true (0.8-0.6).toFixed(1)//0.2 JS不能很精确地表示小数。当两个浮点数相加或者相减，将有可能会导致精度丢失问题。
javascript解决小数的加减乘除精度丢失的方案
10-22
主要介绍了javascript解决小数的加减乘除精度丢失的方案的相关资料以及JavaScript中关于丢失数字精度的问题的探讨，非常的详细,需要的朋友可以参考下
JavaScript 浮点数运算 精度问题
12-09
JavaScript中的浮点数运算精度问题是一个常见的编程挑战，主要源于计算机内部表示浮点数的方式。在JavaScript中，浮点数是使用IEEE 754标准进行存储和计算的，这导致了某些运算结果可能并不像预期那样精确。例如，1/...
【React 】开发环境搭建详细指南
lph159的博客
07-24 1129
无论你是刚刚开始学习 React，还是希望在现有项目中采用 React 技术，搭建一个高效的开发环境都是至关重要的。本文将详细介绍如何从零开始搭建 React 开发环境，涵盖所需的工具和最佳实践，帮助你快速启动并顺利进行开发。Visual Studio Code（VS Code）是目前最流行的代码编辑器之一，提供了丰富的扩展和强大的功能。如果你希望对项目的配置有更多的控制，可以选择手动配置 React 项目。下载并安装最新版本的 Node.js，安装 Node.js 后，npm 会自动安装。
已解决：vue-office/excel 多个sheet点击切换，滚动条高度不重置，表格视图位置不正确
weixin_42289080的博客
07-26 165
解决 @vue-office/excel 多个sheet切换，内容以及滚动条展示不正确的问题
vue el-select的下拉树形结构 带检索功能
最新发布
Jokerxiuka的博客
07-26 129
【代码】vue el-select的下拉树形结构。
Vue3可媲美Element Plus Tree组件实战之移除节点
felix_alone2012的博客
07-25 593
《Element Plus Tree - 自定义节点内容》示例中介绍了移除节点的用法，个人觉得作为提供给用户API，应该遵循迪米特法则，把功能实现的细节封装在组件内部，而提供给用户最简单的操作方式，同时在此基础上支持用户的扩展。因此，在API使用的人性化方便，个人觉得element plus做的并不优秀。为此，我们自定义tree组件时对用户API可以设计的更人性化些。
Angular由一个bug说起之八：实践中遇到的一个数据颗粒度的问题
KenkoTech的博客
07-24 709
之所以使用这种比较直接的方式是因为项目中的数据类型已经确定，而且对数字的处理逻辑没有统一在一个文件中。这是大型项目经常遇到的问题，起到相同作用的代码因为一些小的差别而分别写在管理各自功能的文件里。文件存入数据库，这样我们就可以统一维护一个表，不管是前端来处理数据还是后端来处理都能遵守相同的规则。针对这篇文章提到的数字缩写的问题，可以有两种处理方案。来展示数据的功能，这些数据根据不同的类型和单位会为其加上前缀、后缀或者省略小数。
JavaScript浮点数运算 —— 精度问题
06-09
在 JavaScript 中，浮点数运算存在精度问题。这是因为 JavaScript 使用 IEEE 754 标准来表示浮点数，这种标准使用二进制表示浮点数，而二进制又不能精确地表示某些十进制小数。这导致在进行简单的浮点数运算时，结果可能会出现不准确的情况。 例如，0.1 + 0.2 的结果在 JavaScript 中是 0.30000000000000004，而不是 0.3。这是因为 0.1 和 0.2 在二进制中不能精确表示。为了弥补这个问题，可以使用一些技巧来解决精度问题，例如将小数转换为整数进行计算，再将结果转换回小数，或使用第三方库来处理浮点数运算。
评论 1
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值