为什么浮点数基数越大精度越低？

于 2023-05-20 18:31:02 发布
阅读量608 收藏 1
点赞数 1
文章标签： 学习
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/weixin_52634719/article/details/130784453
版权
浮点数的精度受其基数影响，基数增大可能导致精度下降，因为更大的基数意味着更多的可能数值，而每一位能表示的范围变宽，导致小数部分的表示更加稀疏，从而影响精确度。在计算机科学中，理解和掌握这一特性对于优化数值计算和存储至关重要。
摘要由CSDN通过智能技术生成
爱雨天
关注
单精度浮点数 float、双精度浮点数 double
什么美哟有
06-29 1万+
内容导视：之前漏掉了小数对应的二进制，现补上。二进制转十进制从个位数开始向左计算，个位数乘以 2 的 0 次方，十位数乘以 2 的 1 次方，百位数乘以 2 的 2 次方…从十分位开始向右计算，十分位乘以 2 的 -1 次方，百分位乘以 2 的 -2 次方…然后将每个式子的结果相加。例 1：0b101.11 转为十进制 例 2：0b111.01 转为十进制 可以看到小数部分都是由 0.5、0.25、0.125、0.0625… 等数组合表示，前面的系数 1 或 0，0.625 = 1 * 0.5 + 0 *
详解浮点数的精度问题
weixin_43844995的博客
07-20 7500
详解浮点数精度问题
[计算机组成原理]关于课本“基数越大，浮点数精度反而下降“的理解
qq_44764792的博客
03-05 2254
知乎链接： 为什么浮点数基数越大精度越低？
计算机组成为什么说基数越大可表示精度越低,计算机组成原理习题及答案
weixin_35934226的博客
07-17 1223
D(1/2+2)～(1-2)分析：字长12位，定点补码规格化小数表示时，所能表示的最小正数是0.10000000000，即1/2；所能表示的最大正数是0.11111111111，即(1-2)。答案：C6.在浮点数编码表示中()在机器数中不出现，是隐含的。 A阶码 B符号 C尾数 D基数 答案：D7.浮点数的表示范围和精度取决于()A阶码的位数和尾码的位数 B阶码采用的编码和尾数的位数 ...
ArcMap数据编辑捕捉精度问题
jixg1800的专栏
06-04 3282
rcMap数据编辑捕捉精度问题   在ArcMap中对矢量面数据进行编辑，利用了ArcMap自带的顶点捕捉功能，在一个面的相邻位置绘制了一个新的面，绘制完成保存，但在编辑过的数据顶点放大到一定程序的时候，如下图，出现了裂缝； 分析原因，捕捉选项中的容差值太大了，如下图看到为1像素，已经够小的了。 那么还有什么其他的原因呢，经过排查，该种情况和创建图层是的初始精度有关
考研计算机组成原理总结（3）---浮点数的表示和运算
最新发布
墨城烟柳ベ旧人殇的博客
04-03 3290
本文主要是介绍浮点数的相关内容，与上一篇定点数形成对比。
[口述]计组Day20浮点表示规格化
执念斩长河
05-21 467
本博文源于《计算机组成原理》，通过本文大家可以收获的是：1. 移码的特点2. 为什么引进浮点数表示 3. 浮点表示及规格化形式 4. 浮点数的规格化
浮点数（单精度浮点数，双精度浮点数）
10-23
浮点数（单精度浮点数，双精度浮点数） 浮点数是一种数字表示方法，用于近似表示任意实数。在计算机中，浮点数由一个整数或定点数（即尾数）乘以某个基数（通常是 2）的整数次幂得到。这种表示方法类似于基数为 10 ...
什么是浮点数？
热门推荐
Kaito的博客
01-23 3万+
微信搜索关注「水滴与银弹」公众号，第一时间获取优质技术干货。7年资深后端研发，用简单的方式把技术讲清楚。 在上一篇文章中，我们主要介绍了在计算机中使用定点数表示数字的方式。 简单回顾一下，简单来说，用定点数表示数字时，会约定小数点的位置固定不变，整数部分和小数部分分别转换为二进制，就是定点数的结果。 但用定点数表示小数时，存在数值范围、精度范围有限的缺点，所以在计算机中，我们一般使用「浮点数」来表示小数。 这篇文章，我们就来详细看一下浮点数到底是如何表示小数的，以及浮点数的的范围和精度有多大。 什么是浮.
代码之谜（五）- 浮点数（谁偷了你的精度？）
justjavac(迷渡)
11-13 1万+
****光棍节加长版**** 如果我告诉你，中关村配置最高的电子计算机的计算精度还不如一个便利店卖的手持计算器，你一定会反驳我：「今天写博客之前又忘记吃药了吧」。 你可以用最主流的编程语言计算 0.2 + 0.4，如果你使用的是 Chrome、FireFox、IE 8+，可以按 F12 键，然后找到 「控制台」，输入上面的 表达式 0.2 + 0.4，回车。 然后再用最简陋的
使用浮点数的精度的问题&&原因&&解决
charismaless的博客
04-30 1919
浮点数相关操作时运行的奇妙现象 涉及诸如float或者double这两种浮点型数据的处理时，偶尔总会有一些怪怪的现象，不知道大家注意过没，举几个常见的栗子： 典型现象1:使用基本类型做浮点数做判断 System.out.println( 1f == 0.9999999f ); // 打印：false System.out.println( 1f == 0.99999999f ); // 打印...
杂谈：关于浮点数的精度问题
明天的你会感谢今天的自己
05-12 1111
1）包装类Float中为什么有两个常量来表示最小值：MIN_VALUE和 MIN_NORMAL？ 个人理解：既然有两个常量，说明两个常量表示的数值不一样，查阅资料后发现，MIN_VALUE：值为 3.4E-45 的常量，它表示 float 类型能够表示的最小值。MIN_NORMAL：保存 float 类型数值的最小标 准值的常量，即 2-126。 ...
IEEE 754 浮点数标准
科电微课堂的博客，关于Arduino，C++，电子方案的故事和记录
02-20 5896
IEEE 754 浮点数标准 本文是转载，阅读之后的补充如下，供大家参考： 1、 2、 IEEE 754标准的主要起草者是加州大学伯克利分校数学系教授William Kahan，他帮Intel公司设计了8087浮点数处理器（FPU），并以此为基础形成了IEEE 754标准，Kahan教授也因此获得了1987年的图灵奖。目前，几乎所有计算机都采用IEEE 754标准表示浮点数。 在IEEE 754中，定义了两种浮点数格式：32位单精度和64位双精度。 IEEE 754浮点数格...
数的定点表示和数的浮点表示
williamgavin的博客
12-05 1万+
数的定点表示： 小数点按照约定的形式给出。在计算机里面没有专门的硬件用来表示小数点， 所谓的小数点都是计算机体系设计人员按照约点的形式给出的。按照约定的方式， 可以将计算机分为两种：一种是小数点在数符后面数值前面， 一种是数值后面。如图： 前面这种称为小数定点机， 后面的称为整数定点机。 下面是这两种形式计算机的表示范围： 浮点表示： 为什么要引入浮点表示？ 1， 最早
计算机组成原理学习笔记——定点数和浮点数的简单总结
御承扬的博客
03-05 2258
定点数和浮点数的简单总结一、定点数总结1、关于 C 语言结构体2、0 在四种机器数中的表示3、为什么计算机内部主要采用补码表示定点数？4、关于数的比较5、关于补码乘法6、关于除法7、关于地址的表示8、由 3 个 “1”和 5 个“0”组成的二进制补码，能表示的最小整数是 1000 0011，真值为 -125.9、关于机器指令10、x/2 和 x*2 的意义11、一个加法器能否实现数的加减法？12、...
浮点数里面的重要问题—精度
JoJoJo1234的博客
05-05 2415
上一篇博客我写了浮点数的存储方式，但其实浮点数里面还有一个重要的问题，就是精度的问题。首先我们要了解的就是浮点数的精度的来源：为什么会有精度的问题？      首先我们得知道实数是一个连续的无穷集合，即使是范围在-1 - 1之间的实数组成的集合也是无穷的。而由浮点数表示方法来看，对于确定阶码和尾数位数的浮点数，其个数是有限的。同时随着阶码的增大，相邻俩浮点数间的 距离会越来越大。单精度浮点数最大值...
浮点数精度的一点问题
weixin_30904593的博客
11-08 112
示例代码： doublej = 0.65f; int i = 100 * j; 结果i等于64，与我们通常预计的结果不一致；原因是0.65f后面的f符号表示了0.65是一个单精度浮点数。调试发现实际值等于0.6499999，乘以100后转整数变成64. 测试环境：vs2010 转载于:https://www.cnblogs.com/xiayong123/...
计算机中的定点和浮点表示
TomKKlalala的博客
11-30 2519
N = S * r^j;     S为尾数，j为阶码，r为基数 【在计算机中，尾数为小数，可正可负且正负决定了整个数的正负，阶码为整数，也可正可负】 r可以取2、4、8、16等，当r取4的时候，尾数中的两位二进制数表示尾数中的一位四进制数，以此类推。 问题：一个n位长的尾数，和m位长的阶码的浮点表示，能表示的最大的负数，最小的负数，最小的正数和最大的正数。尾数为原码表示 最小
理解浮点数：实数表达与精度问题详解
不同于定点数（如货币中的固定小数点位置），浮点数使用尾数（Mantissa）、基数（Base，通常是10或2）、指数（Exponent）和符号来构造。例如，数字123.45在十进制浮点数中可以表示为1.2345×10^2，其中1.2345是尾数...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值