用decimal.js库解决JavaScript中计算精度丢失的问题

最新推荐文章于 2024-05-28 11:06:56 发布

九霄123

最新推荐文章于 2024-05-28 11:06:56 发布

阅读量2k

点赞数 1

分类专栏： javascript 文章标签： javascript 前端开发语言

本文链接：https://blog.csdn.net/lyxkgc/article/details/128185772

版权

javascript 专栏收录该内容

14 篇文章 0 订阅

订阅专栏

项目场景：

涉及小数点的计算
在这里插入图片描述
精度丢失原因看这里

解决

用decimal.js库，decimal.js是使用的二进制来计算的, 所以能解决js的精度问题。

安装和引入

执行命令npm i decimal.js --save安装。
官方API文档：官方API文档

npm install --save decimal.js  // 安装
import Decimal from "decimal.js"  // 具体文件中引入

let a = 1
let b = 6 
//加
let res = new Decimal(a).add(new Decimal(b))  //得到的值是一个Decimal对象 需要转换
let res1 = new Decimal(a).add(new Decimal(b)).toNumber() //结果转换成number
let res2 = new Decimal(a).add(new Decimal(b)).toString() //结果转换成string
//下面同上操作
//减
let res = new Decimal(a).sub(new Decimal(b))
//乘
let res = new Decimal(a).mul(new Decimal(b))
//除
let res = new Decimal(a).div(new Decimal(b))

另一种方式：
https://github.com/MikeMcl/decimal.js
下载zip文件，
在这里插入图片描述
引入文档使用即可

<!DOCTYPE html>
<html lang='en'>
<head>
  <meta charset='utf-8' />
  <title>Testing decimal.js</title>
  <style>
  body {font-family: monospace; font-size: 12px; line-height: 14px;}
  </style>
  <script src='../decimal.js'></script>
</head>
<body>
<script>
let res = new Decimal(0.1).mul(new Decimal(0.2))

console.log(res.toNumber() )

</script>
</body>
</html>

九霄123

关注

1
点赞
踩
0

收藏

觉得还不错? 一键收藏
0
评论
用decimal.js库解决JavaScript中计算精度丢失的问题

涉及小数点的计算丢失精度精度丢失原因看这里用decimal.js库，decimal.js是使用的二进制来计算的, 所以能解决js的精度问题。执行命令npm i decimal.js --save安装。官方API文档：官方API文档另一种方式：https://github.com/MikeMcl/decimal.js下载zip文件，引入文档使用即可
复制链接

扫一扫

专栏目录