关于浮点数的那些事

最新推荐文章于 2022-11-17 00:44:58 发布
最新推荐文章于 2022-11-17 00:44:58 发布
阅读量186 收藏
点赞数
分类专栏： 前端 原生JavaScript 文章标签： javascript float
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/lm278858445/article/details/84860135
版权

目录

关于浮点数的那些事

在进行浮点数运算或判断时，经常会出现很多“奇异”的结果，其实都是浮点数运算及表示规则造的怪

0.1 + 0.2 = 0.30000000000000004
8.88 * 100 = 888.0000000000001
1050.6 * 100 = 105059.99999999999

基本原因

  1. 浮点数的运算是基于 IEEE 754 标准的；
  2. 二进制基准；
  3. 对循环小数通过相对误差进行近似表示；

相关参考

Stack Overflow

Floating Point Math

What Every Computer Scientist Should Know About Floating-Point Arithmetic

THE FLOATING-POINT GUIDE

Wikipedia

阮一峰

总结

  1. 尽量少或不用浮点数进行等于判断
  2. 进行浮点数运算时，取整需使用parseInt，Math.round等函数进行
坐在路边数星星
关注
  • 0
    点赞
  • 踩
  • 0
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
python整数和浮点数相乘_关于浮点数：浮点数与整数相乘浮点数的精度
weixin_39629467的博客
12-04 6815
在我的计算机科学课程中，我们正在研究浮点数及其在内存中的表示方式。我已经了解了它们在内存中的表示方式(尾数/有效数，指数及其偏倚以及符号位)，并且我了解了浮点数是如何相互加减的(非正规化和所有这些有趣的东西)。但是，在研究一些学习问题时，我注意到一些我无法解释的问题。当将无法精确表示的浮点数加到自身上时，答案要比我们在数学上期望的要低，但是当同一浮点数乘以整数后，答案就精确地得出了正确的数字。这是...
关于python语言的浮点数类型_Python基本数据类型
weixin_39997311的博客
11-24 3345
计算机的本质就是计算，在其内部是0和1的比特位的变化，对外表现就是数据的变化。那么，计算机都能处理什么数据呢？本质上，数据都是以字节（Byte）存储的，表现上看，它们就是整数、浮点数和字符串等。Python的基本数据类型也不外乎于此。整数和浮点数就跟数学中的一样，而字符串就是各种字符的组合。数值类型：整数(int)、浮点数(float)int和float是Python中为整数和浮点数保留的关键字。...
浮点数精确运算的分析和解决办法
石头记
07-07 6657
    1.01 + 2.01 = 3.02    2.01 * 2.01 = 4 0401   不知你注意没有，这个很寻常的等式，你如果将它放在C++中，Java中，Basic中，它居然是不成立的。计算机在开玩笑吗？噢，对了，隐约记得这好象是浮点数的问题，似乎很多很多年前，老师说过。还有某位姓林的先生在某本书里提过=0的判断。   嗯，如果你不遇到此问题，那你完全可以把它抛到火星上去，可惜，偶不
Python 关于浮点数取整详解
贤哲XianZhe的博客
03-11 1万+
Python 关于浮点数取整详解 文章目录Python 关于浮点数取整详解四舍五入向下取整向上取整浮点数精度问题 四舍五入 将浮点数以四舍五入的方式进行取整，或则四舍五入到小数点后几位 向下取整 向上取整 浮点数精度问题 ...
关于浮点数规格化表示的问题
EnochRebakah的博客
10-16 1万+
记录一下浮点数格式化上自己学习理解过程中的问题 这是小生第一篇博客，准备开始记录自己的学习历程，方便日后查看，也望得到广大博主的批评指正，帮助小生能在学习上精益求精，多谢多谢。 首先，为什么要规格化 以十进制情况 举个例子：1000可以表示成 1 x 103 或者 10 x 102，这样一个数就可以有好多种的表示方法，计算机不是人脑哪能知道这么多。为了方便在不同的计算机之间的移植（例如：IEEE...
python的关于浮点数的运算
hmysn的博客
04-29 2462
由于浮点类型的特殊性，浮点数整数部分和小数部分组成，使用浮点数进行计算时，可能会出现小数位数不确定的情况。 比如如下的计算，你会发现计算结果是无穷小数 n1=1.1 n2=2.2 n3=2.1 print(n1+n2) print(n1+n3) python通过引入Decimal模块来进行浮点数运算。 from decimal import Decimal print(Decimal('1.1')+Decimal('2.2')) ...
关于浮点数四舍五入成整数的事
qq_68844357的博客
04-02 1603
#include <stdio.h> int main() { double d; scanf("%lf", &d); if (d >= 0) { int a = d + 0.5; printf("%d\n", a); } else { int a = d - 0.5; printf("%d\n", a); } return 0; } 解题思路...
关于python浮点数类型错误的是_关于Python的浮点数类型,以下选项中描述错误的是...
weixin_30678145的博客
01-30 2709
【单选题】NAVTEX 系统技术编码为QA01 的播发时间为_____。【单选题】产生寂静区最明显的无线电波是______。【单选题】关于Python的浮点数类型,以下选项中描述错误的是【单选题】以下选项中,输出结果为False的是【单选题】关于Python语言的特点,以下选项描述正确的是【单选题】下面代码的输出结果是: >>> True / False【单选题】下面代码的输出结...
Python中关于浮点数的冷知识
09-18
本文将深入探讨Python中关于浮点数的一些鲜为人知的特性，这些特性可能会在编程实践中引起混淆或者带来有趣的发现。 首先，我们要了解浮点数的表示方式。Python支持标准的十进制浮点数以及特殊的表示形式，例如无穷...
关于浮点数的精度问题
11-03
"关于浮点数的精度问题" 浮点数精度问题是一个经典的问题，对于了解和学习C语言有一定帮助。浮点数的精度问题是由于计算机对浮点数的存储方式和表示方法所致。 IEEE754 的浮点数存储格式对浮点数的表示方法进行了...
库卡机器人浮点数转换.docx
04-25
在上述文档中，我们看到的是如何将浮点数在库卡机器人和PLC之间进行转换和通信的过程。浮点数是一种用于表示带有小数的数值类型，通常在计算和精度要求较高的应用中使用。以下是对这一过程的详细说明： 1. **变量...
关于浮点数 (2).pdf
07-11
在编程领域，浮点数是一种用于表示实数的数据类型，特别是在需要进行精确计算或表示大量范围内的数值时。浮点数在计算机中的存储通常遵循IEEE 754标准，分为单精度（float）和双精度（double）两种，分别占用32位和...
关于浮点数的精度丢失问题的思考
yanqiu12138的博客
11-17 3281
浮点数精度丢失的原因、浮点数的存储、float与double的范围和精度和解决方法
关于浮点数和整数的转换
qq_36876898的博客
06-19 6905
浮点数转化成整数，就有以下四种情况。 1.直接转化 #include<stdio.h> int main() { float f = 1.5; int a; a=(int)f; printf(“a=%d”,a); return 0; } 输出结果是1。（int）是强制类型转化，丢弃浮点数的小数部分。 2.高斯函数，向下取整 #include<stdio.h> int mai...
滑动窗口算法（Sliding Window Algorithm）
热门推荐
lm278858445的专栏
03-05 4万+
滑动窗口算法（Sliding Window Algorithm） Sliding window algorithm is used to perform required operation on specific window size of given large buffer or array. This technique shows how a nested for loop in...
实现下拉列表，点击其他位置自动隐藏效果的三种方式比较
lm278858445的专栏
11-28 1万+
实现效果：1.点击按钮展开下拉列表 2.点击下拉列表中的选项进行选择，随后收起下拉列表 3.点击除下拉列表外的位置（包括按钮），收起下拉列表效果图如下所示： 完整代码请查看： https://github.com/wolf-wolf/pullDownList.git实现环境1.angular 2.sublime基本结构：组件的基本HTML结构如下所示：<!-- 外部包裹层 --> <div
如何避免重复addEventListener？
lm278858445的专栏
08-15 1万+
避免重复addEventListener的核心就是在添加前通过removeEventListener将已经添加的处理函数进行移除。如下代码为id=btn的元素添加click事件的处理函数clickHandler： const $btn = document.getElementById('btn'); function clickHandler() { console.info(`thi...
shell脚本关于浮点数运算
最新发布
01-31
在Shell脚本中，进行浮点数运算可以使用一些工具或技巧来实现。下面是一些常用的方法： 1. 使用bc命令：bc是一个用于数学计算的命令行工具，可以进行浮点数运算。它支持各种数学函数和操作符。你可以在Shell脚本中使用bc命令来进行浮点数运算。以下是一个示例： ```shell result=$(echo "scale=2; 3.14 * 2.5" | bc) echo $result ``` 上述示例中，scale=2表示结果保留两位小数，3.14 * 2.5是要进行的浮点数运算。 2. 使用awk命令：awk是一种强大的文本处理工具，也可以用于浮点数运算。你可以在Shell脚本中使用awk命令来进行浮点数运算。以下是一个示例： ```shell result=$(awk 'BEGIN{printf "%.2f", 3.14 * 2.5}') echo $result ``` 上述示例中，printf "%.2f"表示结果保留两位小数，3.14 * 2.5是要进行的浮点数运算。 3. 使用shell内置的计算工具：有些Shell脚本支持内置的计算工具，如bash中的(( ))或$(( ))。你可以在Shell脚本中使用这些工具来进行浮点数运算。以下是一个示例： ```shell result=$((3.14 * 2.5)) echo $result ``` 上述示例中，3.14 * 2.5是要进行的浮点数运算。 这些是一些常用的方法来在Shell脚本中进行浮点数运算。你可以根据自己的需求选择适合的方法来实现。如果你有其他相关问题，请继续提问。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值