toFixed四舍五入

文章探讨了JavaScript中浮点数精度问题,当对3.155进行toFixed(2)操作时结果不一致,原因在于二进制表示的精度限制。文章提供了解决方案,推荐使用decimal.js第三方库来处理这类高精度计算。
摘要由CSDN通过智能技术生成

一、问题描述

3.145.toFixed(2)                    // 3.15
3.155.toFixed(2)                    // 3.15
3.1551.toFixed(2)                   // 3.16
3.1550000000000001.toFixed(2)       // 3.16
3.15500000000000001.toFixed(2)      // 3.15

二、原因分析:

        计算机里面存储浮点数二进制浮点数存储的,js是64位的浮点数表示,转化会有精度缺失


三、解决方案:

        使用第三方decimal.js

//npm i decimal.js

const Decimal = require('decimal.js');

Decimal(3.155).toFixed(2)

  • 9
    点赞
  • 8
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
JavaScript中,toFixed()方法用于将数字保留指定位数的小数,并且使用四舍六入五成双的规则进行取舍。具体来说,当舍去位的数值小于5时,直接舍去;当舍去位的数值大于等于6时,在舍去的同时向前进一位;当舍去位的数值为5时,根据5后面的数字来决定舍去还是进位。如果5后有有效数字(不为0),则舍去位进位;如果5后无有效数字,需要分两种情况来判断:如果5前的数字为奇数,则向前进一位;如果5前的数字为偶数,则直接舍去。 举个例子来说明,假设有一个数字0.045,要保留2位小数,根据四舍六入五成双规则,5后为1,1是有效数字,所以舍去位进位,结果为0.05。而对于数字0.044,5后为0,0是无效数字,5前为偶数,所以直接舍去,结果为0.04。 需要注意的是,toFixed()方法返回的是一个字符串而不是数字,并且如果不够指定的位数,会使用0进行补齐。所以在进行计算时,可能需要将返回结果转换为数字类型再进行运算。 此外,如果想使用常规的四舍五入方法进行取舍,可以使用Math.round()方法。这个方法会将一个数字四舍五入为最接近的整数。例如,可以使用Math.round(x * 100) / 100来保留x的两位小数。 综上所述,toFixed()方法在处理数据时使用的是四舍六入五成双的规则,而Math.round()方法使用的是常规的四舍五入方法。<span class="em">1</span><span class="em">2</span><span class="em">3</span> #### 引用[.reference_title] - *1* [toFixed的舍入规则](https://blog.csdn.net/weixin_45325250/article/details/123733673)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *2* [JavaScript toFixed()四舍五入问题](https://blog.csdn.net/qq_38877858/article/details/108111072)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] - *3* [JS处理数据四舍五入(tofixed与round的区别详解)](https://download.csdn.net/download/weixin_38535812/12962190)[target="_blank" data-report-click={"spm":"1018.2226.3001.9630","extra":{"utm_source":"vip_chatgpt_common_search_pc_result","utm_medium":"distribute.pc_search_result.none-task-cask-2~all~insert_cask~default-1-null.142^v93^chatsearchT3_1"}}] [.reference_item style="max-width: 33.333333333333336%"] [ .reference_list ]

“相关推荐”对你有帮助么?

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

红包个数最小为10个

红包金额最低5元

当前余额3.43前往充值 >
需支付:10.00
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明:

1.余额是钱包充值的虚拟货币,按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载,可以购买VIP、付费专栏及课程。

余额充值