为什么计算机中大部分小数是不精确的

最新推荐文章于 2024-09-14 18:46:05 发布
最新推荐文章于 2024-09-14 18:46:05 发布
阅读量106 收藏
点赞数
文章标签： java java-ee
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_73975453/article/details/127335549
版权

计算机中数字是通过二进制来计算的我们可以举一个例子：

要把一个十进制的0.6的小数转化成二进制的小数

十进制小数转二进制小数需要乘以二满一就留下一，不满一就写0 剩下的小数位继续相乘直到乘到1.0结束

我们把0.6×2=1.2 得到的二进制的小数就是0.1

然后我们在让0.2×2=0.4 得到二进制的小数就是0.10

然后在0.4×2=0.8 得到的的二进制小数就是0.100

然后再用0.8×2=1.6 得到的二进制小数就是0.1001

然后就又回到了0.6×2这样就是一个无限循环的数字

所以表示的二进制的小数是在无限循环的所以计算机中的大部分小数是不精确的

weixin_73975453
关注
为什么大部分小数在计算机中是不准确的
m0_72686268的博客
09-04 507
为什么大部分小数在计算机中是不准确的？？？有没有例外？
关于二进制无法精确表示小数
zidieq的博客
06-29 2094
理解哪些小数无法被二进制精确表示
为什么计算机中大部分小数是不精确的？
qq_53909315的博客
10-15 1078
为什么计算机中大部分小数是不精确的？
为什么在计算机中大部分小数是不精确的
weixin_59204311的博客
09-01 452
我们知道，将一个小数转化为二进制表示的方式是，不断的乘2，取其中的整数部分。(1) 0.625*2 = 1.25, 整数部分为1，小数部分为0.25。(2) 0.25 * 2 = 0.5 , 整数部分为0，小数部分为0.5。(3) 0.5 * 2 = 1 , 整数部分为1，小数部分为0。(1) 0.4*2=0.8 整数部分为0，小数部分为0.8。(2) 0.8*2=1.6 整数部分为1，小数部分为0.6。(5) 0.4*2=0.8 整数部分为0，小数部分为0.8。所以大部分浮点数字计算机中是不精确的。...
为什么大部分小数在计算机中是不精确的
芯轴的博客
06-11 1358
计算机使用二进制运算，程序中的十进制数字先转换成二进制，再进行运算。Float和Double的小数部分在转换为二进制的过成中容易产生无限循环的情况，通常都是取无限接近于原值的近似值，所以导致出现精度丢失的情况。
为什么大部分小数在计算机中是不精确的?
Tommy_WXF的博客
09-04 589
为什么大部分小数在计算机中是不精确的?
为什么大部分小数在计算机中是不精确的？
wangkai2580的博客
09-04 580
为什么大部分小数在计算机中是不精确的？
为什么大部分的小数在计算机中是不精准的
weixin_72809576的博客
10-17 232
1、在计算机中是采用二进制进行存储的，十进制会导致计算机精度运算不准确，因此在将小数存入计算机中时，要将十进制转为二进制。小数部分：0.1001 1001 1001.......（会一直循环下去，所以大部分的小数在计算机中是不精确的）整数部分依旧是 10==1010（利用十进制转二进制规则进行转变）（4）示例：十进制小数：10.125 转为二进制小数。因为有的十进制小数部分转二进制小数部分，会无限循环。（1）整数部分转整数部分，小数部分转小数部分；（2）十进制的小数部分乘以2，（3）直到结果为1.0。
为什么大部分浮点数字计算机中是不精确的
m0_57401730的博客
06-19 631
java浮点数存储
js为什么不能正确处理小数运算？
10-23
为什么JavaScript不能正确处理小数运算呢？这实际上并不是JavaScript语言设计上的错误，而是与计算机内部处理数值的方式有关。 首先，我们需要理解计算机内部是如何表示和存储数值的。在计算机中，所有的数据，无论...
java中为什么小数运算丢失精度，丢失精度却为何能精确输出
qq_30312047的博客
03-16 835
为什么丢失精度 计算机运用二进制存储数据 十进制小数转二进制小数的办法 对小数点后的数乘以2，会得到一个成果，取成果的整数部分(不是1便是0)，然后再用小数部分再乘以2，再取成果的整数部分……以此类推，直到小数部分为0或许位数现已够了。次序取每次运算得到的整数部分，即为转化后的小数部分。 演示： 0.125 ×2=0.25 …0 0.25×2=0.5…0 0.5×2=1.0…1 即 0.125的二进制表明为小数部分为0.001 其实咱们能够看出，这种办法实质上便是用1/2,1/4,8/1…来组合加出咱们要转
java浮点数为什么不精确_java浮点数运算无法精确的问题
weixin_42128963的博客
02-13 809
1.引言float和double类型的主要设计目标是为了科学计算和工程计算。他们执行二进制浮点运算，这是为了在广域数值范围上提供较为精确的快速近似计算而精心设计的。然而，它们没有提供完全精确的结果，所以不应该被用于要求精确结果的场合。但是，商业计算往往要求结果精确，这时候BigDecimal就派上大用场啦。先看下面代码public static void main(String[] args){S...
Java-网络
最新发布
2301_81543552的博客
09-14 457
Java中的网络编程主要涉及使用Socket类进行网络通信，以及理解各种网络协议。以下是一些关键概念和示例代码，帮助您入门。
上传文件到钉盘流程详解
jspyth的博客
09-14 495
本文详解如何通过钉钉的API实现上传文件到钉盘目录，代码通过JAVA实现。
Java集合：Stack详解
yang_brother的博客
09-10 603
Java 中的Stack类是一个后进先出（LIFO, Last In First Out）的数据结构，它继承自Vector类。尽管Stack是一个可用的类，但它被认为是遗留的，并且在新代码中不推荐使用。通常建议使用Deque或ArrayDeque作为替代。
C++位图的实现与详解
2301_80468112的博客
09-09 657
在讲解位图之前我们先来看一道很经典的面试题。给40亿个不重复的无符号整数，没排过序。给一个无符号整数，如何快速判断一个数是否在这40亿个数中。我们有以下两种种解决方法：1. 遍历，时间复杂度O(N)。（太慢）2. 排序(O(NlogN))，利用二分查找: logN。深入分析:解题思路2是否可行，我们先算算40亿个数据大概需要多少内存。
Java wrapperr打包springboot项目到linux和Windows
欢迎查阅
09-14 813
测试启动就是点击App.bat 就会有信息的输出 installApp就是注册为一个windows上的一个服务。上图文件复制的地方 全部复制过去 保留自己需要的 然后去掉后缀.in。下载：linux的目前免费的 windows 64位的好像收费的。前提： 一定要有Java环境（我使用的是jdk1.8）解压的目录，然后我们新建自己的项目目录java-jsw。前面是你解压的原文件 后边是你自己建的目录路径。步骤和上面的一样 不过复制的文件不一样。下载一个社区版本的应该就够用了。需要注意的点 有Java环境。
C#基础（11）函数重载
a6s686的博客
09-12 827
我们通过这些例子的学习，想毕你一定已经掌握了函数重载的相关内容，我相信你只要稍加练习，便能达到很熟练的程度。不过不管知识点难或者简单，还是那句话，学习路上，戒骄戒躁，脚踏实地。请期待我的下一篇博客！
计算机中的小数表示：浮点法解析
在计算机科学中，小数的表示是通过浮点方式实现的，这是在处理数字时非常关键的一个概念，尤其是在C++这样的编程语言中。浮点表示法用于描述具有小数部分的数值，它由两部分组成：尾数（M）和阶码（E）。这种表示...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值