深入了解浮点精度（五，小于1的浮点存储）

最新推荐文章于 2024-04-27 11:09:20 发布
最新推荐文章于 2024-04-27 11:09:20 发布
阅读量939 收藏 2
点赞数
分类专栏： # JAVA基础
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/dmw412724/article/details/97413075
版权

上一章：深入了解浮点精度（四。严格精度的浮点运算）

 

我们在第二章里提到了一个观点是：

所有的浮点数都可以表示为1.xxxx *2^N，x只能表示0和1

这个观点是正确的吗？

对于大于一 的浮点来说，完全没问题，比如4.5 = 100.1 = 1.001 * 2^2

但如果是小于1呢？

例如：0.5

额，额，额~~

然后就郁闷了，发现怎么着也转变不成1.xxxx *2^N。

不要急，我们先打印一下0.5和4.5。

0 12345678 12345678123456781234567
0  01111110  00000000000000000000000 ---0.5

0  10000001 00100000000000000000000 --4.5

嗯，4.5可以理解，但是0.5为什么后面全是0呢？真是奇怪了！！！

其实还有一个现象可以解释这个事情，那就是指数位的首位，4.5的是1，0.5的是0

指数位的0和1其实也代表着指数的正负，如果你能想到负指数的话大概就能够豁然开朗了。

如下：

0.5 = 1.0 * 2^-1

 

终章~~

 

JAVA道人
关注
专栏目录
浮点数的表示及相关知识详解
学习学习学习
06-22 3013
二进制小数： 点左边的位的权是2的正幂，点右边的位的权是2的负幂。刚好小于1的数，如0.111111将用简单的表达法1.0-ε来表示这样的数值。 IEEE浮点数：定点表示法不能很有效地表示非常大的数字 符号S决定这个数是负数（S=l）还是正数（S=0）,对于数值0的符号位解释作为特殊情况处理。 尾数（significand） M是一个二进制小数，它的范围是1 ~ 2-ε,或者是0〜1-ε 阶码E 的作用是对浮点数加权，这个权重是2的E次幂(可能是负数)。 特殊浮点数： 当.
笔试面试 浮点数定点化的量化误差问题
weixin_45912567的博客
08-15 1779
本文参考公众号“数字ICer”的文章推送 问题来自大疆的笔试题： 解析：无论小数有多少位，它的量化精度都是以5结尾的，因此量化12.918肯定不能做到真正的无损量化。根据数学上的概念，只要误差小于精度的一半，就可以认为是无损的。 对于本题： 整数部分是12，需要四位量化 如果量化位宽12位，则小数部分8位，0.918*2^8=235.008，舍去小数位得到235；235再反量化得到235/256=0.00003125;；量化精度为1/256=0.0039,量化误差小于量化精度的一半，属于无损定点化。 如
0~1间浮点实数的表示（位运算）
晴空๓
03-25 2113
题目描述：给定一个介于0~1之间的实数（如0.625），类型为double，打印它的二进制表示（0.101）。如果该数字无法精确的表用32位以内的二进制表示，则打印"ERROR"。 解题思路：将小数转换成二进制可以每次将小数乘以2。如果大于等于1，那么就在小数点后相应位置填1，然后将整数部分的1消掉只剩下小数部分继续乘以2；如果小于1那么就在相应的位置填0，直到结果为0。比如0.625，第一次乘...
浮点数定点化
weixin_42693865的博客
02-04 2903
目录一、基本概念二、Verilog表示定点数三、浮点数定点化 一、基本概念 1、浮点数：小数点位置是不定的 2、定点数：小数点位置是固定的 二、Verilog表示定点数 FPGA的寄存器中只能表示正整数，通过定义最高位为符号位来表示有符号整数（signed）。带小数的定点数也可以通过约定小数点位置来表示。 三、浮点数定点化 以浮点乘法为例进行说明： 1、定点转换：约定小数点位置，将浮点转为定点 2、定点数相乘：对1的结果进行相乘，得到中间结果 3、结果还原：对2的结果恢复成相应格式的结果 4、量化误差与量化
关于Oracle查询小于1的小数，出现小数点前0丢失的问题
wd402922965的博客
12-26 3954
关于Oracle查询小于1的小数，出现小数点前0丢失的问题
浮点总线存储1
08-03
【浮点总线存储1】 本题涉及到计算机体系结构中的浮点数运算、存储器组织、数据表示和C语言编程等多个知识点。 1. 浮点数运算规则：在IEEE 754浮点数标准中，浮点数分为阶码（bias处理的移码）和尾数（补码表示）...
Java浮点类型和计算“精度丢失”原因
最新发布
晓郎编程
04-27 999
本文将介绍浮点数的基本概念，包括单精度和双精度浮点数的区别，以及计算精度丢失问题的原因和解决方法。通过深入理解浮点数的内部表示和计算机中的运算规则，我们可以更好地处理浮点数计算中的精度问题，提高程序的稳定性和准确性。
matlab开发-等精度浮点检查等精度
08-26
3. 如果差值小于或等于容差值，则返回true，表示在浮点精度内两个数可以认为是相等的；否则，返回false。 例如，你可以这样使用`isequalfp`函数： ```matlab a = 0.1 + 0.2; b = 0.3; if isequalfp(a, b) disp('...
IEEE-754单精度浮点类型详解（完结篇）
热门推荐
weixin_45500205的博客
04-21 2万+
本文主要以单精度浮点类型为例，向大家介绍IEEE-754标准下的浮点数如何存储，以及精度丢失等内容。文章中参考了很多比较知名的博客内容，但绝无抄袭，主要内容是由作者本人对IEEE-754的一些个人理解，希望能给大家带来帮助。...
ieee754数据转单精度浮点型
03-02
单精度浮点型（float）是IEEE 754标准中的一种数据类型，主要用于存储和处理浮点数，通常占用32位（4字节）。在C语言中，理解和操作IEEE 754单精度浮点型数据是编程的重要部分，尤其是在数值计算、科学计算和游戏...
浮点数笔记
萧然自我的博客
01-17 227
关于浮点数问题相信大家早就耳濡目染了，但是为什么会出现这总情况呢？今天我们就来探究一下这个问题。 image.png 基础复习 在探究这个问题之前，我们先复习一下计算机基础的知识 怎么将十进制浮点数转化为二进制 浮点数在计算机中如何存储的 计算机怎么计算加法 计算机怎么计算减法 怎么将小数十进制转化为二进制 计算方法：乘2取整的逆序(va...
LeetCode 69. x 的平方根 and 浮点数平方根（二分）
yangyangcome的博客
07-07 581
题目描述 实现 int sqrt(int x) 函数。 计算并返回 x 的平方根，其中 x 是非负整数。由于返回类型是整数，结果只保留整数的部分，小数部分将被舍去。 示例 1: 输入: 4 输出: 2 示例 2: 输入: 8 输出: 2 说明: 8 的平方根是 2.82842…, 由于返回类型是整数，小数部分将被舍去。 整数求平方根是下取整，因此判断条件是寻找满足条件的第一个数，注意题目中会给定： 2147395599 来求解平方根，会出现越界，因此使用long long 类型的数据。特判一下如果给定的数字
浮点数的大小比较
超空间
05-28 1万+
浮点数在转换过程中都会有误差的,所以浮点数不能直接比较其大小,一般在比较两个浮点数的时候是比较他们之间的差值,如果两个数之间的差值处于一个能接受的范围之内的话,那么,我们就认为这两个浮点数是相等的,一般认为A与B的差大于某个很小的数时就认为A>B，比如:if( A-B > 0.001 ){ A>B...   }一般来说这个可以接受的误差值就是计算机的转换误差,C++标准库提供了这个误差,你可以
linux shell 浮点数比较大小,shell整数与小数比较，小数之间比较的方法【转】
weixin_36397509的博客
05-05 5436
[root@hnanet ~]# max=0.1[root@hnanet~]# min=0.01[root@hnanet~]# echo "$max > $min" |bc1[root@hnanet~]# echo "$max < $min" |bc0[root@hnanet~]# echo "$max < $min"0.1 < 0.01也可参考如下下面是一个常规写法的示例...
64位浮点数_日经答疑：浮点数精度之谜
weixin_39955355的博客
11-21 799
前言最近，经常有人邀请我回答关于浮点数的精度的问题。可能是因为我在这种简单问题下的回答太多了，也可能是因为我的水平只能答这种问题了。不管怎么样，每一个问问题的人都是应该尊重的，但我也不想一个问题写一篇长答，于是统一成一篇文章，一个问题贴一个链接。注意，这将是一篇比较长的文章，从二进制讲起，浮点数的很多细节我都会涉及。二进制与小数众所周知，计算机是基于二进制的。二进制表示整数很简单，比如 。但是如...
C++易忽略问题：浮点数比较大小
cheny的博客
09-01 1271
需要注意的是，由于浮点数的精度问题，直接比较浮点数可能会导致不准确的结果。在比较浮点数时，可以使用一个较小的误差范围（例如1e-6）来处理精度问题。使用上述方法可以判断一个浮点数是否在一个区间内。根据具体的需求和精度要求，选择合适的方法来进行判断。
浮点数精度的修正 相等，大于小于
weixin_30391339的博客
03-10 319
浮点数可能会丢失最后的几位精度，因此在计算的过程中，常常会有一定的误差 1.相等 判断浮点数相等，通常的办法是需要一个近似，在一定的范围即可，允许有一点偏差 这个范围通常是10的-8次方 即，1e-8 double xiuzheng = 1e-8; 判断的话就写成下面这样 if(b<a+xiuzheng&&b>a-xiuzheng) 2....
多大范围内的整数可以用浮点数精确表示
yaorongzhen123的专栏
02-27 1570
转载自https://airguanz.github.io/2019/11/20/float-to-int-exact-range.html 我们知道，IEEE 754中的浮点数是对实数的近似表示，其取值密度在越远离0的地方越稀疏。那么，究竟在多远处浮点数会无法精确地cast到整数呢？本文对此进行了实验和分析。 实验代码很简单： int main() { for(int i = 0; i < std::numeric_limits<int>::max(); ++..
float为什么不能直接用==作比较
yazhouren的专栏
01-05 3876
origin:https://www.jianshu.com/p/9f5a494d24cf 本文尝试着将以下内容做一个浅显的解释，主要包括浮点数为什么是不精确的，浮点数为什么不能用==和！=直接比较，以及浮点数的比较方法等几个方面。如果那个地方说的不对还请各位看官不吝赐教！欢迎大家评论区讨论。 IEEE 754 --- 二进制浮点数算术标准 浮点格式是一种数据结构，用于指定包含浮点数的字段，这些
c++求浮点精度在x内的π
10-23
求浮点精度在x内的π是指找到一个浮点数的近似值，使其与π的差值小于等于x。要实现这个目标，可以使用数值计算方法来逼近π的值。 一个常用的数值计算方法是利用莱布尼茨级数来计算π的近似值。该级数的公式为： π/4 = 1 - 1/3 + 1/5 - 1/7 + 1/9 - 1/11 + ... 根据这个级数公式，可以用循环来计算π的近似值，直到达到所要求的浮点精度。 具体步骤如下： 1. 初始化一个变量pi为0。 2. 初始化一个变量n为1，代表级数公式中当前项的分母。 3. 初始化一个变量sign为1，用来切换每一项的正负号。 4. 进入一个循环，重复以下步骤： - 计算当前项的值，即sign/n，并将其加到pi中。 - 更新n的值为下一个分母。 - 切换sign的正负号。 - 如果当前项的值小于所要求的浮点精度x，结束循环。 5. 将pi乘以4，得到的结果就是以浮点精度x为近似误差的π。 需要注意的是，由于计算机在存储和处理浮点数时存在一定的误差，所以最终得到的近似值可能会略微超出所要求的浮点精度x。因此，可以设置一个容差范围，允许最终结果略微超出x。 通过这样的数值计算方法，可以找到一个满足浮点精度x要求的π的近似值。
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值