浮点数计算的时候出现很长的一串

最新推荐文章于 2022-10-23 22:30:54 发布
最新推荐文章于 2022-10-23 22:30:54 发布
阅读量1.4k 收藏
点赞数 1
分类专栏： 小程序 文章标签： 浮点型计算的问题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/Hero_rong/article/details/82685317
版权

 

bug结果

浮点数计算的时候，会出现bug，例如这种情况118.00999999999999，

这个时候我们一般只要118.01，把最终得到的结果toFixed(2)，就可以啦。 

payMoney = parseFloat(payMoney) - parseFloat(useCardMoney)
payMoney = payMoney.toFixed(2);
console.log(payMoney);

成功结果

 

 

Hero_rong
关注
专栏目录
Float或Double浮点型计算导致小数点后面显示过长数据的解决方法
BBG_0622的专栏
05-22 7071
BigDecimal     在《Effective   Java》这本书中也提到这个原则，float和double只能用来做科学计算或者是工程计算，在商业计算中我们要用java.math.BigDecimal。BigDecimal一共有4个够造方法，我们不关心用BigInteger来够造的那两个，那么还有两个，它们是：     BigDecimal(double   v
JS浮点数运算的精度问题-整数的精度问题
Wnig's Blog
01-25 963
在使用JS的过程中有没有发现某些浮点数运算的时候，得到的结果存在精度问题：比如0.1 + 0.2 = 0.30000000000000004以及7 * 0.8 = 5.6000000000000005等等。 这个问题并不只是在 Javascript 中才会出现，几乎所有的编程语言都采用了 IEEE-745 浮点数表示法，任何使用二进制浮点数的编程语言都会有这个问题，只不过在很多其他语言中已经封装好...
超长浮点数大数相乘
weixin_43011522的博客
10-13 280
代码： #include <iostream> #include <string> #include <vector> using namespace std; static string BigMulti(string &a, string &b) { string ret; vector<int> v(a.le...
为什么前端数据会出现很长的浮点数呢？
_Xiaoning_
07-30 1245
今天在项目中遇到了一个问题，前端数据出现了很长的浮点数。我检查了一下后端传过来的数据，数据是正确的，没有浮点。我很好奇为什么会这样，所以研究了一下这个问题的原因，顺便记录一下。
javascript浮点数相减、相乘出现一长串小数
wujinhong2008的博客
04-09 254
149.7 * 100 =14969.999999999998 3.57 - 2.33 =1.2399999999999998 这是JavaScript浮点运算采用IEEE 754标准导致的Bug。 解决方法：采用整数来运算，再转化为浮点数。 采用IEEE 754标准的语言都有这个问题。 详情： https://www.jianshu.com/p/f5c081c17068 https://b...
C语言计算浮点数的小数位数，屏蔽掉了浮点运算的误差
gdutxzy的专栏
08-02 4520
第一次去计算个
c语言 计算浮点数尾码阶码代码,详谈IEEE浮点数编码机制
weixin_29428137的博客
05-21 2543
在一些工程领域中单单依靠整数是无法满足他们对精度的需求的，这种时候就需要用到浮点数了。今天着重来聊一聊在计算机底层，浮点数的编码方式，以及它相关值的计算方式。二进制小数在介绍浮点数之前先来看看二进制中实数可以如何表示。假设我有一个十进制的小数8.33，那么它的值可以表示为8 + 3 / 10 + 3 / 100 = 833 / 100复制代码各个位的权重依次是10 ^ 0 = 1, 10 ^ -1...
js浮点数计算（加，减）
weixin_30378311的博客
07-12 458
最近工作中经常遇到需要处理浮点型计算的问题，开始一直都在用把浮点数先乘以10的对应小数的位数的次方化成整数再去开始计算。 例如100.01+100.02，可以化成（100.01*100+100.02*100）/100来做计算，但是最近发一个浮点数乘以一个10的次方也会有精度问题发生(如:575697.82*100)，突然感觉前面的工作是不是有好多地方埋了很多坑啊，不能愉快的工作啦。 正好周未没...
python 确保浮点数计算结果正确的方法
m0_59377273的博客
06-23 1417
用python原生,解决浮点数保留位数的问题
字符串转化浮点数c语言简单,关于浮点数和字符串转换的函数示例
weixin_34175388的博客
05-17 1367
这是一位同学发到我邮箱的问题，看起来这位同学很急，不但发了邮件，还几次短消息催我，呵呵，那我回答一下。嗯，这里还是先说明一下，我一般不太愿意在博文中回答具体程序问题，因为C和C++语言，太灵活了，一个问题，有一万种解法，另外，每种解法各有其适用面，贸然在博文中回答，必然不是很精确，回答效果不好。这次呢，我看这位同学比较急迫，我就破个例，不过，正确的做法，我建议大家以后有了具体的程序问题呢，还是到课...
浮点数转换为hex字符串
11-12
在计算机科学中，浮点数和十六进制字符串之间的转换是一项基本操作，特别是在编程和数据表示中。在给定的场景中，我们关注的是如何在VC++环境下将一个32位浮点数转换成8字节的16进制字符串。这种转换涉及到计算机...
float除0
龙崎的专栏
10-06 4464
进行浮点数编程时，如果没有注意，常常会出现输出类似 1.#IND,1.#INF 或者 nan, inf 之类奇怪的输出。这通常隐含了浮点数操作的异常。 特殊浮点数的含义 1.#INF / inf：这个值表示“无穷大 (infinity 的缩写)”，即超出了计算机可以表示的浮点数的最大范围（或者说超过了 double 类型的最大值）。例如，当用 0 除一个整数时便会得到一个1.#INF / 
Java数据类型转换，浮点型溢出问题
qq_36312073的博客
12-28 1148
Java数据类型转换问题 Java为强类型语言，低位可向高位转换 计算过程中的转换 计算过程中以高位为准，如int*long计算过程中会先把int转换成long类型，然后再参与运算 注意：会产生溢出，编译没有问题，但是结构是负数，在计算过程中两个int类型相乘结构还是int，溢出。 int count = 100000000; int price = 1999; long totalPrice = count * price; 转换过程中丢失精度 丢失精度问题主要体现在浮点数问题上面 do
C连载21-printf带返回值，打印长字符串以及scanf
weixin_44630050的博客
09-01 210
一、printf()返回值 printf()函数是有返回值的，通常返回的是打印字符的个数，如果有输出错误，printf()返回一个负值（不同版本会有不同的值） #include<stdio.h> int D21_1_prntval(void) { int bph2o = 212; int rv; rv = printf("%d F is water's boiling point.\n", bph2o); printf("The printf() function printed %
浮点数的加法
qq_44895502的博客
05-27 2332
浮点数的加法：浮点数在相加时需要对阶，且运算顺序不同其结果也会不同。虽然两个浮点数进行加法运算时不会发生溢出，但在对阶时会出现大数吃小数的现象，从而导致运算结果错误。 一. 源代码部分 #include <stdio.h> #include <stdlib.h> #include <string.h> #define BUFSIZE 256 int main(...
Python 浮点数计算出十几位小数的解决方法
leleprogrammer的博客
04-16 2267
Python 浮点数计算出十几位小数的解决方法
C++中printf输出超大整数问题
热门推荐
w55100的博客
04-10 1万+
前置客观常识 int                  2字节，65536；long                4字节，2^31-1，(2,147,483,647)，约21亿；unsigned long   4字节，2^32-1，约42亿；long long          8字节，2^63-1，（9,223,372,036,854,775,807），约9e18；PS: C++11中才正式引...
CJson-修改浮点数的位数
tang0_0
10-23 3745
将组成的json转为字符串格式时，对于浮点数的位数是不固定的。
解决STM32F1使用UCOSII打印浮点数乱码问题
midwenhao的博客
11-19 820
问题描述： 前几天写单片机stm32f1+ucos工程的时候突然出现一个BUG， 就是串口打印出一大串的“00000000000000000000000000000000”， 或者是打印出-1等不可思议的负数值。 （由于这种情况的出现很随缘（后面有解释），所以后来取不到串口打印错误图了） 查找分析： ...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值