JavaScript中精度丢失那点事儿

最新推荐文章于 2024-07-26 20:46:33 发布
最新推荐文章于 2024-07-26 20:46:33 发布
阅读量3.7k 收藏 10
点赞数 2
分类专栏： 日常小问题 文章标签： javascript 开发语言 ecmascript 前端
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/qq_42760119/article/details/122463503
版权
本文探讨了JavaScript中精度丢失的现象，包括浮点数运算和大整数问题，深入讲解了计算机数字存储方式——IEEE754标准，以及如何通过Math.js, big.js, decimal.js等库来解决精度问题。" 52056974,5691462,SAP MRP MD04需求库存报表解析与扩展,"['SAP', 'MRP', '报表开发']
摘要由CSDN通过智能技术生成

JavaScript中精度丢失那点事儿


在开发项目的过程中，我们难免会遇到数值计算的场景，比如电商类项目的金额计算等，此时，我们通常会遇到数值计算结果和我们的预期不一致的情况，通常发生这种情况的原因都是因为JavaScript精度丢失的问题，接下来的内容将会从JavaScript中发生精度丢失的常见情况、发生的原因以及解决方案三个方面进行展开。

一、JavaScript精度丢失常见情况

JavaScript精度丢失主要发生在小数、大数中，主要有以下几种情况：

1、浮点数运算（加减乘除）

在这里插入图片描述

嗯？0.1+0.2 不是等于0.3嘛？后面一连串的是什么玩意？

2、大整数

在这里插入图片描述

啊这，16位数和17位数居然相等，一个数居然和多个数相等

二、计算机数字存储方式——IEEE754

在我们去探究以上现象出现的原因之前，先了解下计算机数字存储方式。

JavaScript的数字存储方式符合IEEE754的规范，那什么是IEEE754？
IEEE754为IEEE二进制浮点数算术标准（ANSI/IEEE Std 754-1985）&#x

最低0.47元/天 解锁文章
琦遇前端ing~
关注
  • 2
    点赞
  • 踩
  • 10
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
出现小数精度丢失的原因，JavaScript可以存储的最大数字、最大安全数字，JavaScript处理大数字的方法、避免精度丢失的方法
Leo_EChen的博客
02-20 182
一个经典的面试题。
javascript小数精度丢失的完美解决方法
10-22
下面小编就为大家带来一篇javascript小数精度丢失的完美解决方法。小编觉得挺不错的，现在就分享给大家，也给大家做个参考。一起跟随小编过来看看吧
JS中小数点精度丢失的原因及解决方法
m0_72424150的博客
07-18 4720
计算机存储双精度浮点数需要先把十进制数转换为二进制的科学记数法的形式，然后计算机会存储二进制的科学记数法, 因为存储时有位数限制（64位），并且某些十进制的浮点数在转换为二进制数时会出现无限循环，会造成二进制的舍入操作(0舍1入)，当再转换为十进制时就造成了计算误差。
说说 Javascript 数字精度丢失的问题，如何解决？
林恒的博客
05-30 1042
这个数无限循环，再大的内存它也存不下，所以不能存储一个相对于数学来说的值，只能存储一个近似值，当计算机存储后再取出时就会出现精度丢失问题。主要是存储二进制时小数点的偏移量最大为52位，最多可以表达的位数是2^53=9007199254740992，对应科学计数尾数是 9.007199254740992，这也是 JS 最多能表示的精度。计算机存储双精度浮点数需要先把十进制数转换为二进制的科学记数法的形式，然后计算机以自己的规则{符号位+(指数位+指数偏移量的二进制)+小数部分}存储二进制的科学记数法。
如何处理Long类型精度丢失问题?
易的博客
07-07 635
方法2，由于在SpringMVC中, 将Controller方法返回值转换为json对象, 是通过jackson来实现的,涉及到SpringMVC中的一个消息转换器MappingJackson2HttpMessageConverter,所以我们要解决这个问题, 就需要对该消息转换器的功能进行拓展。在执行业务功能时，服务端会将返回的R对象进行json序列化，转换为json格式的数据，而员工的ID是一个Long类型的数据，而且是一个长度为19 位的长整型数据， 该数据返回给前端是没有问题的。
JS 小数乘以100产生精度丢失
tututu819的博客
08-09 5799
在JS中一些小数乘以100得到的结果会产生偏差如33.8*100得到的是3379.9999999999995。，类似的数还有32.8,4.9，4.1等。为了避免此类现象可以采用。
JavaScript超大或超小数值精确度丢失解决方案
Mr_JiaTao的博客
08-16 1434
JS数值精确度丢失问题解决方案
js小数运算精度丢失的问题
mirajay_yeah的博客
11-30 1127
用js进行加减乘除运算（涉及到小数）是有可能出现问题的，例如： 0.1 + 0.2 = 0.30000000000000004 0.3 - 0.2 = 0.09999999999999998 0.3 * 1 = 0.2999999999 … 是不是很神奇，觉得如此简单的计算计算机是不应该出错的，怎么会呢？ 哈，想了解这个问题，首先我们应该明白，计算机只能看懂二进制语言，那么0.1和0.2转换成二进制是多少呢？ JS 遵循 IEEE 754 规范，采用双精度存储（double precision），占用 64
前端js精度丢失 出现小数
weixin_42039715的博客
06-15 247
第一种如果是固定前端控制精度可以在表达式内用toFixed()方法； {{item.price.toFixed(2)}} 第二种有后台传输精度的参数变量进行控制，可以用vue的过滤器filter来控制； {{item.price | priceFloat}} js Vue.filter('priceFloat', function (value) { //if (!value) return '' value = value.toString(); var result = Number(va
js做四舍五入运算时，精度丢失问题
weixin_44497522的博客
08-02 220
四舍五入解决精度丢失的问题
解决JavaScript数字精度丢失问题的方法
01-19
JS 数字精度丢失的一些典型问题 JS 数字精度丢失的原因 解决方案（一个对象+一个函数） 一、JS数字精度丢失的一些典型问题 1. 两个简单的浮点数相加 0.1 + 0.2 != 0.3 // true 这真不是 Firebug 的问题，可以用...
javascript解决小数的加减乘除精度丢失的方案
10-22
主要介绍了javascript解决小数的加减乘除精度丢失的方案的相关资料以及JavaScript中关于丢失数字精度的问题的探讨，非常的详细,需要的朋友可以参考下
vue前端处理后台返回的Long型数据精度丢失
qq_43555948的博客
09-24 5104
vue前端处理后台返回的Long型数据精度丢失 问题描述 开发时后端返回的id为Long型，结果发现俩id怎么会一样呢？如下图是控制台Preview返回的数据 正以为是后端那边数据有误时，我点开Response发现这边的id是正常的… Preview和Response的数据居然不一样 哎呀我去…这不是搞事情么 于是通过面向百度的学习方式，了解到，js对于超出17位的Long型数据会出现精度丢失的问题。 有问题我们就要解决 解决办法 方法1：简单粗暴，手里拿着板砖和蔼的要求后端不要返回Long，返回Str
JavaScript青少年简明教程：函数及其相关知识（下）
最新发布
cnds123的专栏
07-26 470
JavaScript青少年简明教程：函数及其相关知识（下）
HarmonyOS应用开发者高级认证，Next版本发布后最新题库 - 多选题序号4
Gusha_的博客
07-23 1298
HarmonyOS应用开发者高级认证最新题库，编写于2024年7月19日，Next版本发布之后
【React 】开发环境搭建详细指南
lph159的博客
07-24 1083
无论你是刚刚开始学习 React，还是希望在现有项目中采用 React 技术，搭建一个高效的开发环境都是至关重要的。本文将详细介绍如何从零开始搭建 React 开发环境，涵盖所需的工具和最佳实践，帮助你快速启动并顺利进行开发。Visual Studio Code（VS Code）是目前最流行的代码编辑器之一，提供了丰富的扩展和强大的功能。如果你希望对项目的配置有更多的控制，可以选择手动配置 React 项目。下载并安装最新版本的 Node.js，安装 Node.js 后，npm 会自动安装。
已解决：vue-office/excel 多个sheet点击切换，滚动条高度不重置，表格视图位置不正确
weixin_42289080的博客
07-26 155
解决 @vue-office/excel 多个sheet切换，内容以及滚动条展示不正确的问题
vue el-select的下拉树形结构 带检索功能
Jokerxiuka的博客
07-26 102
【代码】vue el-select的下拉树形结构。
javascript 计算精度丢失
04-01
JavaScript中数字的精度受限于浮点数的实现。JavaScript使用IEEE 754标准表示数字，这意味着数字被存储为64位浮点数（双精度浮点数），其中一部分用于指数和一部分用于小数。这意味着JavaScript可以表示大约15位的数字，但是在执行数学运算时，可能会发生舍入误差，从而导致精度丢失。 例如，考虑以下代码： ``` var x = 0.1; var y = 0.2; var z = x + y; console.log(z); ``` 在这个例子中，我们期望z的值为0.3，但是实际上它的值是0.30000000000000004。这是因为JavaScript在计算0.1和0.2时产生了舍入误差，这些误差在相加时会叠加。 为了避免精度丢失，可以使用JavaScript中的一些库，例如Big.js或Decimal.js，这些库提供了更高精度的数学运算。另外，可以将数字转换为整数进行计算，并在需要时将其转换回浮点数。例如，将0.1和0.2乘以10，得到1和2，将它们相加得到3，然后将结果除以10，得到0.3。这种方法可以避免舍入误差，但是需要注意数字的范围，因为整数的范围比浮点数的范围小得多。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值