计算机原理学习笔记——第三章 计算机中的运算——6 算术运算的精确性

最新推荐文章于 2023-04-03 11:08:25 发布
最新推荐文章于 2023-04-03 11:08:25 发布
阅读量406 收藏 1
点赞数 1
分类专栏： 计算机原理 Foundation
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。
本文链接：https://blog.csdn.net/hpdlzu80100/article/details/115511289
版权

 

算术运算的精确性

整数和浮点数的精确表示问题

 

谬误和陷阱（自然界中的算术运算没有精度限制，但计算机中的算术运算被限制在一定的精度范围内，导致浮点加法不满足结合律）

谬误1：浮点加法满足结合律

 

谬误2：对于整数，左移指令相当于将原数与2的幂次方相乘；右移指令则相当于将原来的整数除以2的幂次方

 

谬误3：只有数学家才需要关注浮点数的精度问题

预见未来to50
关注
专栏目录
第二章 指令：计算机的语言
IC笔记
02-17 2881
主要介绍了MIPS指令集，关于ARMv7、ARMv8和x86也简单的介绍了一下。
《Java核心技术》学习笔记——第3章 Java的基本程序设计结构
a602389093的博客
11-14 307
版权声明：本文为博主ExcelMann的原创文章，未经博主允许不得转载。 第3章 Java的基本程序设计结构 作者：ExcelMann，转载需注明。 第2章是关于Java程序设计环境的介绍（包括JDK、JRE、使用IDE、命令行工具以及JShell），在此省略。 第3章内容目录： 一个简单的Java应用程序 注释 数据类型 变量与常量 运算符 字符串 输入输出 控制流 大数 数组 由于之前经常写的语言就是Java，看这本书是为了查缺补漏，所以该篇文章主要记录书中提到的一些值得注意的点。 一、 一个简单的
java中,一个数左移n位,就是将这个数乘以2的n次方,右移就是将这个数除以2的n次方?
ITWUYI的博客
12-26 806
在java中,一个数左移n位,就是将这个数乘以2的n次方,右移就是将这个数除以2的n次方怎么理解? 把这个数二进制化就能理解了.如十进制的2,二进制表示是0010,2左移3位,就是在二进制的低位补3个0,然后变成00010000,转成十进制就是16,即2*2^3,右移大体一致，需要分两种情况。 右移的话要分带符号位和不带符号位两种。 计算机中的数都是二进制表示的，以8位的byte类型表示为例，5可以表示为：00000101（最高位表示符号，0位正，1为负） 无论>>还是>>>都
数值计算：计算机精度
weixin_33738578的博客
02-24 1885
数值计算：计算机精度机器数 由于计算机的储存空间有限，所以对于一个实数，有时候存储的只是它的近似值 其中为尾数，是个有限位数二进制数，其大小为，整数称为阶码。当一个实数的位数过多，其便会被舍去一部分精度 计算机浮点数 在以32位表示单精度实数的计算机中，阶码用8位表示，位数用24位表示，其表示的范围为到，有6位的十进制精度值 对于64位表示的双精度值，用11位表示阶码，用53位表示尾...
《计算机组成原理：硬件软件接口》第三章：计算机的算术运算 学习笔记
code_master2020的博客
03-03 1077
3.1概述 计算机中的字(word)是由位(bit)组成的，因此，字可以表示为二进制的数字。尽管自然数(0,1,2等)既可以用十进制的形式表示，也可以用二进制的形式表示，但是其他一些常见的数又如何表示呢。 例如： --负数？ --计算机中的字可以表示的最大的数是多少？ --如果某一操作所产生的结果比一个字所能表示的最大的数还大，那会出现什么情况呢？ --小数和实数如何表示？ 需弄清的根本原理：硬件究竟是如何进行乘法或除法运算的？ 本章目的就是要揭示这些基本原理：包括 --如何表示各类数字
在java中， 一个数左移n位，就是将这个数乘以2的n次方，右移就是将这个数除以2的n次方怎么理解？
DuHacker的博客
09-16 1685
不会不会不会
计算机中整数加法满足结合律吗
weixin_30653023的博客
01-08 341
今天看《程序设计语言概念》（Concepts of Programming Language），第七章“结合性”一节中有这么一段： 某些计算机中的整数加法不具有结合性。例如，假设一个程序要计算“A + B + C + D”，其中A、C是很大的正数，B、D是绝对值很大的负数。在这种情况下，将B加到A并不会导致溢出，但将C加到A就会溢出。B和D与此类似。 这段话很好理解，因...
计算机组成原理学习笔记(第二部分 I/O设备和运算)
paleatta的博客
10-20 1897
学习视频 随看随记 输入输出系统 概述 输入输出系统的发展概况 早期I/O设备不多，采用分散连接，CPU和I/O设备串行工作使用程序查询方式 接口模块和DMA（直接存储器访问）阶段，采用总线连接。CPU和I/O设备并行工作，包括中断方式和DMA方式 具有通道结构的阶段 具有I/O处理机的阶段 随着I/O的发展，I/O的独立性越来越强，越来越多的将数据直接通过I/O进行执行，而不经过CPU。 输入输出系统的组成 I/O软件 I/O指令:是CPU指令中的一部分，程序员其编写好，共I/O进行调用 操作码
计算机组成原理学习笔记（1.计算机系统概述 2.数据的表示和运算）
super_song的博客
06-30 3000
1.计算机系统概述 2.数据的表示和运算
王道计算机组成原理：完整笔记
最新发布
修行的凡人的博客
04-03 6854
基于著名书籍和自我学习得出的王道计算机组成原理理论知识
《Java 编程的逻辑》笔记——第1章 编程基础（一）
bm1998
07-25 409
文章目录开头语1.1 数据类型和变量1.1.1 数据类型1.1.2 变量1.2 赋值1.2.1 基本类型1.2.1.1 整数类型1.2.1.2 小数类型1.2.1.3 真假类型1.2.1.4 字符类型1.2.1.5 一些说明1.2.2 数组类型1.2.2.1 赋值语法1.2.2.2 数组和基本类型的区别1.2.2.3 为什么数组要用两块空间1.3 基本运算1.3.1 算术运算1.3.1.1 加减乘除注意事项1.3.1.2 小数计算结果不精确1.3.1.3 自增(++)/自减(--)1.3.2 比较运算符1.
算术左、右移位与逻辑左、右移位，右移一位和除二的区别、算术溢出
热门推荐
APDX的博客
05-29 1万+
当你通过搜索逻辑，算术移位运算的时候，一直寻找资料，只不过可能你没有找到满意的回答，看到这，你大概率可以结束你的搜索过程了。 这里先说一句很重要的话： 正数的原码，反码，补码三者相同。 负数的反码就是该负数的绝对值（正数）的原码的所有位取反，负数的补码就是反码加一。 如果你想了解反码，原码，补码的定义还有补码为什么要+1，为什么补码比原码多表示一个数的话，你可以看我的另一篇文章《原码、反码、补码的知识总结》， 1.算术左移-逻辑左移 他们都遵循：高位丢弃，低位补零。 对于一个数字：00110011 算术
计算机原理笔记
JJC的博客
02-19 4371
计算机原理笔记，
位运算符中的 (左移) (右移) (无符号右移)2
Dimples.
07-03 1469
<<:某数据左移n位是该数据乘以2的n次幂，可以完成2的次幂运算 >>:某数据右移n位是该数据除以2的n次幂，对于高位出现的空位，原来是什么就用什么来补全。 >>>:无符号右移是数据进行右移时，高位出现的空位，无论原高位是什么，空位都用0补。 ...
计算机加法不满足结合律
weixin_44883400的博客
05-26 2474
计算机中的加法根据数据类型不同而不同，但都是以二进制的形式相加，我们以浮点型的数据相加为例。浮点型数据相加需要先对阶，而浮点数只占32位，那么在对接中，就有可能使得数据丢失。这就是下面代码所描述的东西。 #include <stdio.h> #include <stdlib.h> #include <string.h> #define BUFSIZE 256in...
调试经验——Windows查看内存和CPU信息
预见未来to50的专栏
04-26 2351
正在学习存储器（内存），想到了查看一下自己电脑的内存信息。 方法： “1.首先,需要打开命令行模式,利用win+r键打开运行,输入cmd回车即会出现; 2.然后在命令行界面输入wmic进入命令行系统管理执行脚本界面; 3.可以通过命令memorychip进行查看内存型号; 4.可以看出,有两条内存,分别为2G,PN号也可以看出; 5.然后通过cpu get *可以查看cpu的具体情况(注意空格)” 运行结果： 2 运行结果整理： Field Name Value A..
计算机原理学习笔记——第四章 中央处理器——3 多周期控制器
预见未来to50的专栏
04-13 1073
多周期控制器 单周期处理器的问题根源及解决方法 多周期处理器的好处 单周期和多周期的对比 多周期数据通路（含控制信号） 多周期控制器的实现（有限状态机、微程序） 多周期控制器的实现（状态表） 如何计算多周期处理器的CPI 多周期处理器与单周期处理器的性能比较 ...
计算机二级公共基础：算法与数据结构详解
本资源是一份针对计算机二级公共基础的学习笔记，主要涵盖了数据结构与算法的基础知识。首先，章节1.1定义了算法，强调它是问题解决方案的精确描述，虽然与程序不同，但程序设计依赖于有效的算法设计。算法的基本...
评论
添加红包

请填写红包祝福语或标题

个

红包个数最小为10个

元

红包金额最低5元

当前余额3.43元 前往充值 >
需支付：10.00元
成就一亿技术人!
领取后你会自动成为博主和红包主的粉丝 规则
hope_wisdom
发出的红包
实付元
使用余额支付
点击重新获取
扫码支付
钱包余额 0

抵扣说明：

1.余额是钱包充值的虚拟货币，按照1:1的比例进行支付金额的抵扣。
2.余额无法直接购买下载，可以购买VIP、付费专栏及课程。

余额充值