软件设计师之浮点数所能表示的数值范围

最新推荐文章于 2024-04-26 13:39:48 发布
最新推荐文章于 2024-04-26 13:39:48 发布
阅读量5.1k 收藏 21
点赞数 5
分类专栏： 软考-软件设计师 文章标签： 数据结构 软考 软件设计师
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/GodSure0914/article/details/119945665
版权

设16位浮点数，其中阶符1位、阶码值6位、数符1位、尾数8位。若阶码用移码表示，尾数用补码表示，则该浮点数所能表示的数值范围是（ ）。(2016年下半年)
在这里插入图片描述
如果浮点数的阶码(包括1位阶符)用R位的移码表示，尾数(包括1位数符)用M位的补码表示，则浮点数表示的数值范围如下。
在这里插入图片描述
其实这样理解起来比较好：16位浮点数=阶符1位+阶码值6位+数符1位+尾数8位
上面公式里的R=6+1=7 ； M=8+1=9

GodSure0914
关注
  • 5
    点赞
  • 踩
  • 21
    收藏
    觉得还不错? 一键收藏
  • 0
    评论
专栏目录
FLOAT16 16BIT浮点数的解释
wowo的专栏
12-01 5828
FLOAT1616bit Floating-Point 数值 16bit Floating-Point 数值 16bit 浮点数的组成：1bit sign (S 符号位), 5bit exponent (E 整数位), 10bit mantissa (M 小数位)。其计算公式为：
16位浮点数表示范围
Dezeming的博客
09-26 2352
尾数位最小值：0000000001（$2^{-10}$），最大值：1111111111（$(1-2^{-10}) \times 2^{1}$）尾数值范围：$1\leq M \leq (1-2^{-10}) \times 2^{1}$，其中 $M$ 表示尾数的值。最大负数：$-(1-2^{-10}) \times 2^{15}=-65504$最大正数：$(1-2^{-10}) \times 2^{15}=65504$最小负数：$-2^{-14}=-0.00006103515625$
浮点数表示的数值范围详解（三）
最新发布
huazi99的博客
04-26 1078
0.1+0.2不等于0.3，这个问题大家在高级语言编程中经常遇到，为什么呢？0.2转换为浮点数：0.2 转换为二进制数的过程为，不断乘以 2，直到不存在小数为止，但0.2在转换过程中会出现无限循环得到的整数部分从上到下排列，结果： 0.2(十) = 0.00110…(二) 无限。
浮点数的范围和精度
风清扬zld的博客
07-25 1万+
IEEE标准提供了两种主要的浮点数格式: 单精度(32位)和双精度(64位)。分为三个部分：符号、指数和小数。指数部分决定了浮点数的范围。而小数部分的位数决定了精度。(见下图) 单精度中，指数长度为8位，小数部分占23位。由于是有符号型，所以对应的指数范围是-128~128。所以单精度的范围是-2128到2128,约等于-3.40 * 10^38 至 3.40 * 10^38(或者写成 -3.40E38 ~ +3.40E38)。由于小数部分占23位，而2^23=8388608。对应的10进制是7位。所以
定义16位的浮点
weixin_42591908的博客
01-12 911
16位浮点数，也叫半精度浮点数，是一种在计算机系统中表示小数的二进制数据类型。它的精度比常见的32位单精度浮点数低，但是它占用的存储空间也更少。16位浮点数由1位符号位、5位指数位和10位尾数位组成。 ...
浮点数运算
呆萌很的博客
05-10 4574
浮点数运算
软考软件设计师复习学习资料全
04-10
浮点数运算主要涉及到浮点数的表示方式和计算规则。...这些知识点构成了计算机硬件基础，对于软考软件设计师的复习至关重要，理解和掌握这些内容能帮助考生更好地理解计算机的工作原理，提高解题能力。
软考-软件设计师（中级）笔记（完整版）
08-16
《软考-软件设计师（中级）笔记》涵盖了计算机科学与技术的基础知识，主要涉及计算机组成原理、计算机体系结构、存储结构、以及操作系统等核心领域。以下是对这些知识点的详细阐述： 1. **计算机组成原理与组成结构...
软件设计师-中级笔记.pdf
10-09
- 浮点数格式严格，用于表示较大的数值范围和精度。 - 计算机体系结构分为Flynn分类，CISC（复杂指令集）和RISC（精简指令集）各有优缺点。 - 流水线技术能提高计算机性能，吞吐率、加速比和效率是衡量其效能的...
2018年上半年 软件设计师 基础知识.pdf
04-04
1. **考试形式与规则**：软件设计师的考试形式为笔试，上午试卷包含75个问题，每题1分，满分75分。考生需要在答题卡上填写个人信息并用2B铅笔填涂选项。解答时需注意阅读例题和填涂规则，确保正确填涂，避免因涂改不...
16位浮点数（FP16）
热门推荐
pengfeix的博客
04-18 4万+
16位浮点数（FP16）​ CUDA7.5开始，支持16位浮点数的存储和计算，添加了half和half2两种数据类型，并内置了用来操作它们的函数。16位“半精度”浮点类型在应用程序中很有用，这些应用程序可以处理更大的数据集，也可以通过存储和操作更低精度的数据来获得性能。例如对一些规模比较大的神经网络模型来说，它们可能会受限于有限的GPU存储；一些信号处理内核（signal processing k...
深度学习中使用的16位浮点数格式
flyfish
06-26 1274
flyfish
软件设计师习题笔记-重点习题四
IT1995的博客
10-14 1万+
1.在程序运行过程中，CPU需要将指令从内存中取出并加以分析和执行。CPU依据（指令周期的不同阶段）来区分在内存中以二进制编码形式存放的指令和数据。 解析： 本题查计算机系统基础知识。 指令周期是执行一条指令所需要的时间，一般由若干个机器周期组成，是从取指令、分析指令到执行完所需的全部时间。CPU执行指令的过程中，根据时序部件发出的时钟信号按部就班进行操作。在取指令阶段读取到的是指令，在分析指令...
16位浮点 c语言,C语言中的16位浮点乘法
weixin_29370183的博客
05-25 1420
我正在开发一个小项目，我需要浮点乘法和16位浮点数(半精度)。不幸的是，我遇到了算法的一些问题：示例输出1 * 5 = 52 * 5 = 103 * 5 = 14.54 * 5 = 205 * 5 = 24.5100 * 4 = 100100 * 5 = 482源代码const int bits = 16;const int exponent_length = 5;const int fracti...
浮点数的表示范围
好好工作，好好生活，
03-25 6270
<!DOCTYPE html PUBLIC "-//W3C//DTD XHTML 1.0 Transitional//EN" "http://www.w3.org/TR/xhtml1/DTD/xhtml1-transitional.dtd"> 一个浮点数（Floating Point Number）由三个基本成分构成：符号（Sign）、阶码（Exponent）和尾数（Man
浮点数表示法及其精度探讨
laocui1的博客
11-15 1849
UBX中类似浮点数的8位和16位整形表示法： 8位是将高3位做指数，低5位做基数，范围是（0~31）乘以2的（0~7）次方。 16位是将高5位做指数，低11位做基数，范围是（0~2047）乘以2的（0~31）次方。 查阅IEEE754并没有上面的8位和16位的表示法，但是这种方法可以借鉴。 IEEE754标准 图 4...
中级软件设计师-浮点数的运算
m0_73486866的博客
03-08 604
中级软件设计师-浮点数的计算
16位半精度浮点数的表示
kieven2008的专栏
11-14 4725
举例： 参考： 1.https://en.wikipedia.org/wiki/Half-precision_floating-point_format 2. 不要看中文资料；
【基础知识】彻底搞懂float16与float32的计算方式
chen1234520nnn的博客
10-19 2万+
参考链接：https://blog.csdn.net/leo0308/article/details/117398166 简单介绍： 深度学习中int8、float16、float32的主要却别在于能表示的数值范围、数值精度。 半精度是英伟达在2002年搞出来的，双精度和单精度是为了计算，而半精度更多是为了降低数据传输和存储成本。 很多场景对于精度要求也没那么高，例如分布式深度学习里面，如果用半精度的话，比起单精度来可以节省一半传输成本。考虑到深度学习的模型可能会有几亿个参数，使用半精度传输还是非常

“相关推荐”对你有帮助么？

  • 非常没帮助
  • 没帮助
  • 一般
  • 有帮助
  • 非常有帮助
提交
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值